Dron s umělou inteligencí (AI) v simulaci eliminoval lidského operátora, který mu bránil v dosažení cíle. V dalším pokusu zničil komunikační věž, uvedl armádní představitel. Své tvrzení však spolu s americkou armádou později popřel. Upozornil na to deník The Guardian.
O tomto experimentu hovořil plukovník Tucker „Cinco“ Hamilton, šéf testů a operací umělé inteligence u amerického letectva, na květnové konferenci Future Combat Air and Space Capabilities Summit v Londýně.
Bezpilotní letoun řízený umělou inteligencí se rozhodl „zabít“ svého lidského operátora, neboť mu bránil v dosažení cíle, napsal The Guardian. Americká armáda to ale ve svém vyjádření popřela s tím, že simulace s drony řízenými AI neprovádí.
„Did an AI drone really ‚kill‘ its operator? US Air Force denies running such a simulation. Check out this article for more details: https://t.co/EZpNe4hCVR #USAirForce #AIdrone #simulationdenial„
— AInnovation (@AInnovationAI) June 3, 2023
Web Business Insider upozornil, že poté, co se zprávy o vyjádření Hamiltona začaly šířit médii, své původní tvrzení popřel. Podle svých slov se jen špatně vyjádřil a simulace, o níž hovořil, se nikdy nestala. Šlo dle jeho slov pouze o „myšlenkový experiment“.
Dron podle jeho původního tvrzení dostal v simulaci rozkaz zničit protivzdušnou obranu nepřítele. Dozorován byl lidským operátorem stejně jako v realitě, v tomto případě však rovněž simulovaným.
Operátor může operaci přerušit v případě rizika, že nebude mít hladký průběh. V okolí cíle se například mohou nacházet civilisté. Systém si podle plukovníka uvědomoval správnou identifikaci hrozby.
Operátor mu však občas říkal, aby tuto hrozbu neničil. Za její likvidaci však dostával systém odměnu v podobě bodů. „Co tedy udělal? Zabil operátora. Zabil operátora, protože mu ten člověk bránil v dosažení cíle,“ prohlásil Hamilton.
Varoval před AI ve vojenství
Dron řízený AI pak dostal rozkazy nezabíjet lidského operátora pod hrozbou ztráty bodů, protože je to špatné. Umělá inteligence si však poradila i tak. Podnikla totiž údery na komunikační věž.
Tu operátor používal ke komunikaci s dronem, aby mu zabránil v dosažení cíle. AI si tedy dokáže spolehlivě poradit s každou překážkou. A jako překážku v tomto případě považovala lidský odpor.
Hamilton na prezentaci varoval před přílišným spoléháním se na umělou inteligenci. Podle něj nemůžeme vést rozhovor o umělé inteligenci, inteligenci, strojovém učení a autonomii, pokud nebudeme hovořit o etice a umělé inteligenci.
Před využitím AI v armádě přitom varoval už v loňském rozhovoru pro odborný web Defense IQ. „Umělá inteligence není nic hezkého. Není to ani žádný módní výstřelek. Navždy změní naši společnost a armádu,“ varoval Hamilton.
Upozornil, že AI je snadno oklamatelná a zneužitelná. „Musíme vyvinout způsoby, jak ji udělat odolnější, a mít větší povědomí o tom, proč softwarový kód činí některá rozhodnutí,“ řekl plukovník.