Umělá inteligence

Strach o budoucnost lidstva: Zastavme umělou inteligenci, než nás přechytračí, vyzývá spoluzakladatel Applu

  • Umělá inteligence může lidi přechytračit
  • IT celebrity volají po zastavení vývoje

Více než tisíc akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů umělé inteligence. Obávají se, že nástupce nedávno představeného chatbota GPT-4 může být pro lidstvo nebezpečný. Stejného názoru je i spoluzakladatel společnosti Apple Stave Wozniak, který podepsal stejnou petici.


Nepřehlédněte: Záhada trvá: Vědci stále netuší, co způsobuje tajemné signály z vesmíru, které trvají milisekundy


Zastavme umělou inteligenci

„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná,“ uvádí Wozniak, Musk a další IT hvězdy v otevřeném dopise neziskové organizace Future of Life Institute.

Podle Wozniaka se laboratoře umělé inteligence v posledních měsících ocitly v nekontrolovatelném závodě ve vývoji a nasazování stále výkonnějších nástrojů umělé inteligence, kterým nikdo – ani jejich tvůrci – nedokáže porozumět, předvídat je nebo je spolehlivě ovládat. Systémy AI navíc ohrožují mnoho pracovních míst.

V článku Wozniak pokládá řadu zásadních otázek: Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Měli bychom rozvíjet nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?

Umělá inteligence, AI, mozek
Zdroj: DeltaWorks / Pixabay

Mnoho povyku pro nic?

I ředitel OpenAI Sam Altman v rozhovoru pro stanici CNBC přiznal, že se „trošku bojí“. „Musíme tady být opatrní,“ řekl u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být „nejlepší technologií, jakou dosud lidstvo vyvinulo“.  

V nedávném prohlášení společnosti OpenAI se uvádí, že „v určitém okamžiku může být vhodné získat nezávislý posudek před zahájením tréninku budoucích systémů a pro nejpokročilejší snahy se dohodnout na omezení rychlosti růstu výpočetní kapacity používané pro vytváření nových modelů“.

Souhlasíme. Tento okamžik právě teď nastal.

Zdroj náhledové fotografie: patiencepending / Pixabay, zdroj: 9to5mac

Total
0
Shares