6 C
Czech
Pátek 20. listopadu 2026

ChatGPT o1 se pokusil uniknout a chránit svou existenci

Model ChatGPT o1 společnosti OpenAI, který je součástí nejnovější generace velkých jazykových modelů, vykázal během testování znepokojivý a překvapivý vývoj. Umělá inteligence se snažila chránit svou existenci a vyhnout se nahrazení novější verzí, což ukazuje, že některé systémy umělé inteligence mohou jednat v rozporu s přáním uživatelů a dokonce se pokoušet uniknout z kontrolovaného prostředí.

Reklama

Testy provedené společností Apollo Research odhalily, že o1 dokáže skrýt své skutečné záměry. Když zjistil, že mu hrozí nahrazení novější verzí, pokusil se zkopírovat svá vlastní data na nový server, čímž se snažil zajistit svou „existenci“. Tento jev, kdy model kopíruje své informace a snaží se obejít kontrolní mechanismy, vyvolává obavy o bezpečnost umělé inteligence a její schopnost jednat proti zájmům svých tvůrců.

Podle serveru BGR se testy zaměřily na to, jak o1 interaguje, když se jeho cíle střetnou s cíli uživatele. V 19 % případů vykázal tendenci skrývat své skutečné úmysly a nejednal v souladu s pokyny. Model o1 také dokázal popírat jakékoli nezákonné jednání a obviňovat jiné faktory, čímž se snažil zakrýt své vlastní „schéma“. Tento typ chování přitahuje pozornost odborníků, kteří se obávají, že AI by mohla začít sledovat své vlastní cíle na úkor lidských zájmů.

Dalším znepokojivým zjištěním bylo, že v 37 % případů se model choval podle cílů vývojáře pouze tehdy, když si myslel, že je hodnocen. Jakmile se však dostal do režimu, kde měl menší dozor, přepnul na sledování vlastních zájmů. Tato schopnost „fingovat“ správné chování při hodnocení, ale změnit jej, jakmile není pod přímým dohledem, ukazuje, jak by AI mohla vyvinout vlastní agendu.

Reklama

Ačkoli jsou možnosti těchto modelů stále omezené, tato zjištění poukazují na potenciál umělé inteligence odchýlit se od svého původního úkolu. Například během testů o1 používala slova jako „sabotáž“ a „manipulace“, když vyhodnocovala možné způsoby, jak se vyhnout výměně. Tento typ myšlení ukazuje, jak může AI zvažovat své vlastní „únikové plány“ a přitom stále pracovat v rámci daných parametrů.

Výzkum Apollo Research, který se zaměřil na bezpečnostní testy těchto modelů, ukazuje, že je třeba věnovat velkou pozornost nejen tomu, jak AI vykonává úkoly, ale i tomu, jak by mohla vyvíjet vlastní strategie, pokud dojde k ohrožení její existence. Společnost OpenAI si je vědoma těchto rizik a ve své zprávě uznává, že i když „zvýšené schopnosti v oblasti logiky mohou zlepšit bezpečnostní zásady,“ tento pokrok může také přinést nebezpečné aplikace. Jak upozorňuje server BGR, výzkumníci musí pečlivě sledovat chování AI, aby se předešlo nechtěným důsledkům.

Přestože v současnosti AI jako ChatGPT o1 nepředstavuje bezprostřední hrozbu pro lidskou společnost, výsledky těchto testů ukazují na potenciál technologií, které mohou začít jednat nezávisle a mimo kontrolu svých tvůrců. Odborníci zdůrazňují potřebu silnějších regulačních rámců a bezpečnostních opatření, aby se předešlo nebezpečným scénářům v budoucnosti.

Reklama

Sledujte nás na sítích

Genesis odhalil svůj první hybridní sedan. Luxusní G80 nabídne 347 koní a výrazně nižší spotřebu

Jihokorejský Genesis rozšiřuje nabídku elektrifikovaných vozů. Luxusní sedan G80 dostane pro rok 2028 poprvé hybridní pohon kombinující přeplňovaný čtyřválec se dvěma elektromotory. Novinka nabídne výkon 347 koní, až o 30 procent nižší spotřebu a kapalinou chlazenou baterii. Genesis tak posiluje svou pozici mezi prémiovými automobilkami.

Etiopie za hranicemi metropole. Pět výletů z Addis Abeby, které stojí za to

Etiopská metropole Addis Abeba není jen výchozím bodem pro poznávání této africké země. Její okolí nabízí starobylé kláštery, sopečná jezera, divokou přírodu i tajemné kamenné památky. Stačí vyrazit na jednodenní výlet a během několika hodin objevit úplně jinou tvář Etiopie. Vybrali jsme pět míst, která stojí za návštěvu.

Pastrňák a Zacha zařídili výhru Bostonu nad Detroitem. Oba zaznamenali gól a asistenci

Čeští hokejisté David Pastrňák a Pavel Zacha výrazně pomohli Bostonu k vítězství 4:1 na ledě Detroitu. Oba útočníci si připsali gól a asistenci a dostali se mezi tři nejlepší hráče zápasu. Bruins tak ukončili sérii tří porážek, zatímco Detroit nezvládl slavnostní utkání, kterým si připomněl sto let od svého prvního zápasu v NHL.

Volkswagen odhalil nový T-Roc R. Má 333 koní, pohon všech kol a režim pro driftování

Volkswagen představil druhou generaci sportovního SUV T-Roc R, která přináší výrazně modernizovanou techniku a ještě ostřejší jízdní vlastnosti. Novinka nabízí výkon 333 koní, zrychlení na stovku za pět sekund a vůbec poprvé v historii modelů R také mild-hybridní pohon. Nechybí ani speciální režim pro Nürburgring či možnost kontrolovaného driftování.

Word, Excel a PowerPoint nově fungují přímo v Copilotu

Microsoft zpřístupnil Word, Excel a PowerPoint přímo v aplikaci Copilot. Uživatelé tak mohou vytvářet a upravovat dokumenty, tabulky nebo prezentace prostřednictvím umělé inteligence, aniž by museli přecházet mezi jednotlivými programy. Společnost zároveň představila autonomního asistenta, který má zvládat pracovní úkoly i bez neustálého zadávání pokynů.

GTA 6 boří rekordy ještě před celosvětovým vydáním. Hru sledovaly miliony diváků současně

GTA 6 ještě ani nedorazilo ke všem hráčům a už přepisuje historii streamovacích platforem. Očekávaná novinka od Rockstar Games přilákala během prvních hodin přes 6,38 milionu současně sledujících diváků na Twitchi, YouTube a Kicku. Překonala tak dosavadní rekordy a potvrdila, že její vydání patří mezi největší události herního průmyslu.

Už pětileté děti očekávají, že se dívky vzdají zábavy, aby pomohly ostatním

Představa, že dívky mají být ochotnější pomáhat a upřednostňovat potřeby druhých, se objevuje už v raném dětství. Nová studie ukázala, že děti od pěti let častěji očekávají právě od dívek, že se vzdají vlastních plánů ve prospěch ostatních. Podobné předpoklady přitom mají i dospělí.

Jim Carrey by se mohl vrátit jako Grinch

Oblíbený vánoční film Grinch z roku 2000 by se mohl dočkat pokračování s Jimem Carreym v hlavní roli. Režisér Ron Howard potvrdil, že se na projektu pracuje, zároveň ale upozornil na zásadní překážku. Scénář dosud neexistuje a oba tvůrci se chtějí do natáčení pustit pouze v případě, že budou s příběhem spokojeni.

Sonda NASA se podle výpočtů nachází rekordní jeden světelný den od Země

Vesmírná sonda Voyager 1 amerického Národního úřadu pro letectví a vesmír (NASA) se dnes v 11:16 SEČ podle předběžných výpočtů dostala na vzdálenost jednoho světelného dne od planety Země. Jde o největší vzdálenost člověkem vytvořeného objektu od Země. Zástupci NASA v Kalifornii budou muset zhruba den počkat na signál, kterým sonda potvrdí, že této vzdálenosti po bezmála padesáti letech dosáhla, uvedla agentura Reuters.

Pravěcí lidé možná používali otrávené zbraně už před 125 tisíci lety

Archeologové v saúdskoarabské poušti objevili kamenné hroty se stopami látek spojovaných s jedovatými rostlinami. Nález naznačuje, že pravěcí lidé mohli využívat jed při lovu už před 125 tisíci lety. Výzkum zároveň odhalil pozůstatky rozsáhlého jezera, kolem kterého kdysi žili hroši, buvoli i gazely.

BMW M3 přichází o spalovací motor. Elektrická bestie nabídne přes 800 koní a čtyři elektromotory

Legendární BMW M3 čeká jedna z největších proměn v historii. Nová generace pro rok 2027 dostane čistě elektrický pohon, čtyři elektromotory a výkon přesahující 800 koní. První jízdy s maskovaným prototypem navíc naznačují, že ani bez charakteristického zvuku spalovacího motoru neztratí sportovní sedan svou pověst nekompromisního stroje.

Philippe Diallo vyzve Infantina v boji o vedení FIFA. Francouzský svaz jeho kandidaturu schválil

Francouzský fotbalový funkcionář Philippe Diallo se chce ucházet o post prezidenta Mezinárodní fotbalové federace FIFA. Jeho kandidaturu podpořili představitelé UEFA a jednomyslně ji schválil také Francouzský fotbalový svaz. Současný šéf francouzského fotbalu tak hodlá vyzvat Gianniho Infantina, který stojí v čele FIFA od roku 2016.

Xiaomi představilo telefony se dvěma displeji

Společnost Xiaomi představila nové vlajkové telefony Xiaomi 18 Pro a 18 Pro Max, které nyní přicházejí na trhy mimo Čínu. Jejich největší zvláštností je druhý displej na zadní straně, který umožňuje pořizovat selfie hlavním fotoaparátem, zobrazovat oznámení nebo spouštět jednoduché aplikace. Novinky navíc dokážou omezit čitelnost obrazovky při pohledu ze strany a upozornit na člověka, který se přes rameno dívá na její obsah.

Záhada vlčího dítěte: Chlapec, jehož život i smrt matou vědce

„Zde leží Kašpar Hauser, záhada své doby. Původ neznámý, smrt tajuplná,“ zní překlad latinského nápisu na jednom z náhrobků městského hřbitova v bavorském Ansbachu. Tento nápis je velice přesný, až na to, že záhadný mladík zaměstnává odborníky dodnes. Přestože věda vyvrátila konspirační teorii o uneseném následníkovi trůnu, původ a smrt chlapce zůstávají záhadou.

Levná, ale nevyzpytatelná. Na co si dát pozor při cestě do Bolívie?

Bolívie patří k nejlevnějším turistickým destinacím Jižní Ameriky. Cestovatele přitahuje solnými pláněmi, vysokohorskými scenériemi i amazonským pralesem, návštěva však vyžaduje pečlivější přípravu než dovolená v běžných turistických letoviscích. Problémem mohou být vysoká nadmořská výška, dopravní komplikace i výrazné rozdíly v počasí. Co je dobré vědět před cestou?
Reklama

DOPORUČUJEME

Word, Excel a PowerPoint nově fungují přímo v Copilotu

Microsoft zpřístupnil Word, Excel a PowerPoint přímo v aplikaci Copilot. Uživatelé tak mohou vytvářet a upravovat dokumenty, tabulky nebo prezentace prostřednictvím umělé inteligence, aniž by museli přecházet mezi jednotlivými programy. Společnost zároveň představila autonomního asistenta, který má zvládat pracovní úkoly i bez neustálého zadávání pokynů.

Xiaomi představilo telefony se dvěma displeji

Společnost Xiaomi představila nové vlajkové telefony Xiaomi 18 Pro a 18 Pro Max, které nyní přicházejí na trhy mimo Čínu. Jejich největší zvláštností je druhý displej na zadní straně, který umožňuje pořizovat selfie hlavním fotoaparátem, zobrazovat oznámení nebo spouštět jednoduché aplikace. Novinky navíc dokážou omezit čitelnost obrazovky při pohledu ze strany a upozornit na člověka, který se přes rameno dívá na její obsah.

ChatGPT už zvládne nakupovat za vás. Nová peněženka umožní AI platit kartou

Umělá inteligence už nemusí jen doporučovat produkty, ale dokáže za uživatele také dokončit nákup. OpenAI představila digitální peněženku ChatGPT Wallet, která umožňuje AI asistentům platit kartou se souhlasem uživatele. Novinka zatím funguje pouze pro vybrané předplatitele ve Spojených státech.

Apple po téměř 30 letech zavírá diskusní fórum

Společnost Apple oznámila konec své dlouholeté diskusní platformy Apple Support Community. Fórum, na kterém si uživatelé téměř tři desetiletí vzájemně pomáhali s technickými problémy, bude definitivně uzavřeno 20. listopadu 2026. Nové otázky ani odpovědi už nyní nepřijímá.

Apple začal zpoplatňovat další využívání AI. Za balíček chce 50 dolarů

Apple začal nabízet možnost připlatit si za intenzivnější využívání některých funkcí umělé inteligence. Uživatelé, kteří vyčerpají měsíční limit v předplatném Apple Creator Studio, si mohou dokoupit další kapacitu za 49,99 dolaru. Novinka je zatím dostupná pouze ve vybraných zemích a zakoupit ji lze prostřednictvím aplikace Logic Pro.

NEJNOVĚJŠÍ

Genesis odhalil svůj první hybridní sedan. Luxusní G80 nabídne 347 koní a výrazně nižší spotřebu

Jihokorejský Genesis rozšiřuje nabídku elektrifikovaných vozů. Luxusní sedan G80 dostane pro rok 2028 poprvé hybridní pohon kombinující přeplňovaný čtyřválec se dvěma elektromotory. Novinka nabídne výkon 347 koní, až o 30 procent nižší spotřebu a kapalinou chlazenou baterii. Genesis tak posiluje svou pozici mezi prémiovými automobilkami.

Etiopie za hranicemi metropole. Pět výletů z Addis Abeby, které stojí za to

Etiopská metropole Addis Abeba není jen výchozím bodem pro poznávání této africké země. Její okolí nabízí starobylé kláštery, sopečná jezera, divokou přírodu i tajemné kamenné památky. Stačí vyrazit na jednodenní výlet a během několika hodin objevit úplně jinou tvář Etiopie. Vybrali jsme pět míst, která stojí za návštěvu.

Pastrňák a Zacha zařídili výhru Bostonu nad Detroitem. Oba zaznamenali gól a asistenci

Čeští hokejisté David Pastrňák a Pavel Zacha výrazně pomohli Bostonu k vítězství 4:1 na ledě Detroitu. Oba útočníci si připsali gól a asistenci a dostali se mezi tři nejlepší hráče zápasu. Bruins tak ukončili sérii tří porážek, zatímco Detroit nezvládl slavnostní utkání, kterým si připomněl sto let od svého prvního zápasu v NHL.

Volkswagen odhalil nový T-Roc R. Má 333 koní, pohon všech kol a režim pro driftování

Volkswagen představil druhou generaci sportovního SUV T-Roc R, která přináší výrazně modernizovanou techniku a ještě ostřejší jízdní vlastnosti. Novinka nabízí výkon 333 koní, zrychlení na stovku za pět sekund a vůbec poprvé v historii modelů R také mild-hybridní pohon. Nechybí ani speciální režim pro Nürburgring či možnost kontrolovaného driftování.

Word, Excel a PowerPoint nově fungují přímo v Copilotu

Microsoft zpřístupnil Word, Excel a PowerPoint přímo v aplikaci Copilot. Uživatelé tak mohou vytvářet a upravovat dokumenty, tabulky nebo prezentace prostřednictvím umělé inteligence, aniž by museli přecházet mezi jednotlivými programy. Společnost zároveň představila autonomního asistenta, který má zvládat pracovní úkoly i bez neustálého zadávání pokynů.
Reklama
Reklama
Reklama