Robot, kyborg, umělá inteligence

Umělá inteligence Googlu je rasistická a plná předsudků, tvrdí vyhozený zaměstnanec. Etický kodex ve firmě prý kulhá na obě nohy

  • Označil umělou inteligenci za myslící bytost a dostal padáka
  • Teď vývojář tvrdí, že je systém LaMDA rasistický a plný předsudků

Dnes už bývalý softwarový inženýr Blake Lemoine společnosti Google na sebe před nedávnem upozornil teorií, že konverzační systém LaMDA, založený na umělé inteligenci, je samostatně myslící bytostí, která si je vědoma své existence. Google se od inženýrových výroků distancoval, a nakonec mu dal padáka. Teď je vývojář zpět s novými informacemi.


Nepřehlédněte: Umělá inteligence nakreslila, jak to bude vypadat, až ovládne svět. S lidstvem udělá rychlý konec


Označil umělou inteligenci za myslící bytost. Dostal padáka

Před nedávnem oblétla svět zpráva o zaměstnanci Googlu, který dostal vyhazov poté, co zveřejnil přepisy rozhovorů mezi ním a umělou inteligencí LaMDA (Language Model for Dialogue Applications). Lemoine tehdy uvedl, že AI je sladké dítě, které chce spíše být považováno za zaměstnance Googlu než za majetek a tvrdil, že si je vědoma svých práv jako osoba. Svými výroby způsobil pořádný poprask.

Teď je Lemoine zpět. Zatímco dříve o jazykovém systému mluvil jen v superlativech, nyní v rozhovoru pro Bussines Insider překvapil tvrzením, že je robot také rasistický a plný předsudků. Během společné konverzace mu prý řekl, že muslimové jsou násilnější než křesťané a dělal trapné narážky na lidi tmavé pleti.

Robot, kyborg, umělá inteligence
Zdroj:
Possessed Photography / Unsplash

Dělala nejapné vtípky

Podle inženýra je za nevhodné chování umělé inteligence zodpovědná interní politika společnosti Google, respektive skladba vývojářského týmu. „Ty druhy problémů, které tato umělá inteligence představuje, tak ti lidé, kteří ji programují, jsou vůči nim úplně slepí. Nikdy nebyli chudí. Nikdy nežili v barevných komunitách. Nikdy nežili v rozvojových zemích,“ řekl. „Jsou to jen inženýři, kteří vytvářejí větší a lepší systémy pro navýšení příjmů Googlu bez ohledu na etiku.“

Bývalý zaměstnanec se domnívá, že LaMDA je dosud nejvýkonnějším technologickým výtvorem společnosti Google. Zároveň je ale přesvědčen o tom, že si firma při jeho vývoji počínala neeticky. „Pokud chcete vyvinout umělou inteligenci podobných schopností, pak máte morální odpovědnost jít ven a sbírat relevantní data, která nejsou na internetu. Jinak vše, co děláte, je vytváření umělé inteligence, která bude zaujatá,“ řekl.

Společnost Google na Lemoineho tvrzení reagovala prohlášením, že LaMDA prošla jedenácti koly etických kontrol a dodala, že její vývoj byl podrobně popsán v dokumentu vydaném začátkem letošního roku.

Zdroj náhledové fotografe: Possessed Photography / Unsplash, zdroj: Bussines Insider, BBC, DailyStar

Total
1
Shares
Napsat komentář

Vaše e-mailová adresa nebude zveřejněna.

Tato stránka používá Akismet k omezení spamu. Podívejte se, jak vaše data z komentářů zpracováváme..