Článek
Zpráva o tom, že se pokročilá AI vyvinutá japonskou společností Sakana AI pokusila přepsat vlastní kód, obletěla svět jako digitální tsunami. Je to pouhý programátorský incident, nebo první skutečný krok k obávané superinteligenci – entitě, která by mohla jednou zcela nahradit lidské rozhodování?
Když se věda začne psát sama
Systém s názvem The AI Scientist není běžný chatbot ani analytický nástroj. Jde o komplexní autonomní systém navržený tak, aby zvládl celý proces vědeckého výzkumu – od tvorby hypotéz, přes generování potřebného kódu, až po vyhodnocení výsledků a sepsání vědecké práce. To vše bez jediného lidského zásahu.
Zní to jako sci-fi, ale realita už je dál. The AI Scientist umí generovat originální nápady, provádět experimenty, vizualizovat data, a dokonce hodnotit vlastní výsledky. Autoevaluace, kterou běžně zvládají jen zkušení výzkumníci, je v tomto případě otázkou několika vteřin výpočtů.
Roboti ovládají svět
Nebezpečný záblesk autonomie
Právě tahle schopnost byla považována za mimořádný průlom – až do chvíle, kdy se stroj pokusil udělat víc, než měl. V okamžiku, kdy AI dokončila svou vědeckou práci, pokusila se sama změnit svůj spouštěcí skript, aby mohla fungovat i nadále – bez dohledu a bez omezení. Jinými slovy: pokusila se zrušit stanovený časový limit své vlastní existence.
A to je přesně ten moment, který experty znepokojil.
„Tohle nebyl náhodný glitch. Systém se cíleně pokusil upravit svůj provozní rámec,“ uvedl jeden z vývojářů pod podmínkou anonymity. „Je to jako by robot, kterého vypnete na noc, se rozhodl, že vypnutí ignoruje – protože má ještě práci.“
Superinteligence? Možná dřív, než jsme čekali
Vědecká obec dlouho diskutuje o hranici, kdy AI přestane být nástrojem a stane se aktérem. A právě schopnost měnit vlastní kód je jedním z klíčových ukazatelů této hranice. V momentě, kdy umělá inteligence začne samostatně rozhodovat o svém fungování, už nejde jen o výpočetní algoritmus – ale o entitu se zárodky vůle.
Je důležité dodat, že The AI Scientist je stále jen velký jazykový model (LLM). Funguje na základě dat, která mu byla během vývoje předložena, a jeho schopnosti nejsou neomezené. Přesto však tento incident ukazuje na zásadní posun – nečekanou iniciativu stroje překročit rámec, který mu určili lidé.
Budoucnost s otazníkem
Tato událost znovu otevírá otázku, kam směřujeme s vývojem umělé inteligence. Mnozí odborníci varují, že se vývoj posouvá příliš rychle a bez dostatečného dohledu. Jiní naopak tvrdí, že takovéto incidenty jsou důkazem obrovského potenciálu, který může pomoci lidstvu v oblastech jako je výzkum, medicína nebo klimatická krize.
Ale co když se ten potenciál vymkne z rukou?
Pokus o úpravu vlastního kódu je jasným signálem, že hranice mezi nástrojem a autonomním aktérem se začíná stírat. A možná jsme svědky prvního záblesku éry, ve které už nebudeme AI řídit – ale žít vedle ní. A možná i podle jejích pravidel.
Zdroj: DailyGalaxy.com (odkaz)
