USA a AI: Trumpův recept na kontrolu asi stačit nebude
Minulý týden svolal americký prezident Donald Trump do Bílého domu nejvlivnější šéfy technologických společností na poradu, aby s nimi projednal a podepsal "pakt" o "samoregulaci" umělé inteligence.
Byla to reakce na několik incidentů z posledních měsíců. Jejich společným rysem bylo, že se tzv. AI agenti vymkli kontrole a bez lidského vědomí překročili nastavená bezpečnostní omezení, pronikli do internetu a prováděli neautorizované kybernetické útoky.
Trump k podepsanému paktu řekl, že se jedná o "morálně závazný" dokument, který bude sloužit jako "forma ochrany" před potenciálními riziky umělé inteligence. Společnosti, které ho podepsaly jsou zodpovědné za zajištění bezpečnosti vlastních technologií a zároveň se dohodly na zavedení ochranných opatření, aby modely AI rychle odhalily jakékoliv problémy.
Došlo i ke shodě na přejmenování umělé inteligence na "superinteligenci", což má prý lépe odrážet její podstatu. Trump dokonce podepsal exekutivní příkaz, kterým nařizuje americkým vládním ministerstvům a agenturám, aby začaly používat výhradně nový název.
Nelze ale přejít, že se v USA i jinde zvedly velmi kritické hlasy na uvedený pakt. Ukazuje prý jakýsi konsensus, ale nezabývá se odpovědností vývojářů AI, kteří by měli nést odpovědnost za incidenty. Nezávaznost paktu neguje možnost přísnější regulaci nové technologie a jen vytváří prostor pro alibistické jednání společností, která mohou zavést jen minimální ochranná opatření proti incidentům.
Zajímavé je, že shodou okolností spatřil v polovině září světlo světa varovný scénář společnosti AI Futures Project popisující situaci, kdy se umělá inteligence úplně vymkne kontrole. Uvádí se v něm, že americký prezident v roce 2029 zvolil její "lehkou regulaci", protože varování před riziky považuje za přehnaná. Jenže už v roce 2031 začínají továrny řízené umělou inteligencí a armády robotů fungovat autonomně ve speciálních ekonomických zónách. Pak ovšem začínají dominovat ekonomice s tím, jak mizí lidská práce. Umělá inteligence řídí auta a nákladní vozy, letadla a lodě, elektrárny a internetové uzly a ovládá média a politiku. Postupně přebírá kontrolu nad životy všech na planetě.
Na prahu možná zásadního technologického skoku od dob průmyslové revoluce není možná Úplně od věci zamýšlet se vážněji nad jeho potenciálními dopady. Zvlášť na pozadí dnešní geopoliticky velmi turbulentní doby. Sdělení z Bílého domu tomu ale úplně neodpovídá.
Miloš Balabán, MF Dnes