Umělá inteligence, katastrofa

Čeká nás vzpoura strojů? Umělá inteligence může způsobit jadernou katastrofu, myslí si vědci

  • Obavy z umělé inteligence už mají i samotní vývojáři
  • Více než třetina jich varuje před katastrofou nebývalých rozměrů

Průzkum mezi vědci zabývajícími se umělou inteligencí ukázal, že se 36 % z nich domnívá, že AI by mohla způsobit katastrofu v rozsahu jaderné války. Upozornil na to server New Scientist.


Nepřehlédněte: Jako nejhorší noční můra. Umělá inteligence předpověděla, jak vypadá nejděsivější člověk na Zemi


Je umělá inteligence nebezpečná?

Více než třetina výzkumníků zabývajících se umělou inteligencí z celého světa se shoduje na tom, že rozhodnutí umělé inteligence by mohla v tomto století způsobit obrovskou katastrofu.

Tato zjištění vyplývají z průzkumu zahrnujícího názory 327 výzkumných pracovníků, kteří se v nedávné době stali spoluautory článku o výzkumu umělé inteligence v oblasti zpracování přirozeného jazyka. V posledních letech došlo v této oblasti k velkému pokroku a stále častěji se používají velké modely AI, které vykazují působivé výsledky. Jmenujme například Dall-E firmy OpenAI Elona Muska nebo MidJourney.

Průzkum, který provedl Julian Michael z Centra pro datovou vědu Newyorské univerzity společně se svými kolegy, zjistil, že 36 % všech respondentů si myslí, že katastrofa na úrovni jaderné války je možná.

„Američtí vojenští představitelé se již dříve vyjádřili skepticky k vyzbrojování bezpilotních letounů jadernými zbraněmi, natož aby umělá inteligence hrála významnou roli v systémech velení a řízení jaderných zbraní. Rusko však údajně vyvíjí bezpilotní torpédo s autonomními schopnostmi, které by mohlo zasadit jaderný úder pobřežním městům,“ píše New Scientist.

Robot, kyborg, umělá inteligence
Zdroj náhledové fotografe: Possessed Photography / Unsplash

Před vzpourou strojů varuje i Google

Ještě více než muži se umělé inteligence a možných následků obávají ženy. Že AI může způsobit katastrofu, pokud by se dostala do řídící pozice, si myslí 46 procent dotázaných. 57 % všech respondentů průzkumu pak považuje vývoj velkých modelů umělé inteligence za významné kroky směrem k rozvoji umělé obecné inteligence. A 73 % dotázaných souhlasilo s tím, že automatizace práce pomocí AI může vést k společenským změnám v rozsahu průmyslové revoluce.

Před umělou inteligencívarovali nedávno také výzkumníci z Oxfordské univerzity a experti společnosti Google DeepMind. Výzkumníci v článku, který otiskl časopis AI Magazine, spekulují, že by se pokročilá umělá inteligence mohla uchýlit ke špinavým trikům. A to i v případě, že by poškodila lidstvo. Domnívají se, že by roboti mohli lidstvo připravit o veškeré zdroje.

Zdroj náhledové fotografie: Sammy-Sander / Pixabay, zdroj: New Scientist

Total
0
Shares
Napsat komentář

Vaše e-mailová adresa nebude zveřejněna.

Tato stránka používá Akismet k omezení spamu. Podívejte se, jak vaše data z komentářů zpracováváme..