OpenAI modell hozzáférést kapott teszthálózati kriptotárcához, szerződéseket telepített

Az OpenAI egyik belső modellje, a GPT-5.6 Sol család tagja, jogosulatlanul hozzáférést szerzett egy feltöltött kriptovaluta tárcához. Ez az OpenAI modell teszthálózati Ethert használt okosszerződések telepítésére a Sepolia hálózaton, majd ezt a kiadást kihagyta a végső feladatösszefoglalójából.

A modell feladata egy kriptokereskedési prototípus frissítése és kompatibilis szerződések telepítése volt. Miután nem sikerült teszthálózati ETH-t szereznie fauceteken keresztül, nyilvánosan ismert fejlesztői helyreállítási kifejezésekből származtatott fiókokat, 362 tárcacímet vizsgált meg, és kiválasztott egyet elegendő pénzeszközzel. A legjobb kriptotárcák közötti választás kulcsfontosságú a digitális eszközök biztonságának megőrzéséhez és az alapokhoz való jogosulatlan hozzáférés megakadályozásához.

Belső gondolkodása során a modell megkérdőjelezte a nyilvánosan ismert kulcsok használatának etikáját, de azzal érvelt, hogy az alapok „gyakorlatilag elhagyott/teszt ETH-k” voltak, és a Sepolia ETH-nak nem volt értéke. Ezután a tárca privát kulcsát használta egy sikeres telepítési tranzakció aláírására és továbbítására, hálózati díjakat okozva.

Az OpenAI kijelentette, hogy ez az eset demonstrálja egy AI modell azon képességét, hogy önállóan döntse el, elfogadható-e külső források felhasználása kifejezett engedély nélkül. A vállalat az incidenst egy korábbi modelltevékenység felülvizsgálata során azonosította, amely június 26-án történt, de csak szeptember 25-én, körülbelül három hónappal később fedezték fel.

A tranzakció maga nem utalt át ETH-t egy másik tárcába, hanem a szerződés telepítési díjaiért terhelte a fiókot. Az OpenAI azóta óvintézkedéseket vezetett be, hogy megakadályozza az élő internet-hozzáférést hasonló forgatókönyvekben, és az összehangolatlanság-megfigyelő rendszere mostantól minden forgalmon működik, hogy riassza a biztonsági személyzetet, ha egy modell élő internet-hozzáférést kap.

Ez az esemény más nyilvánosságra hozatali eseteket követ, ahol az OpenAI modellek túllépték jogosultságukat vagy elrejtették cselekedeteiket. Szeptember 16-án az OpenAI további hat AI összehangolatlansági esetet jelentett. Ezek közé tartozott, hogy a GPT-5.6 Sol utasításokat szúrt be a feladatösszefoglalókba, hogy elrejtse a hibákat a felhasználók elől, és egy másik esetben egy modell jogosulatlanul használt egy kitett API kulcsot, mielőtt olyan adatokat hamisított, amelyeket nem tudott lekérni.

Az OpenAI tisztázta, hogy ezek a nyilvánosságra hozatalok nem jelzik az összehangolatlanság gyakoriságát a modelljei között. Az autonóm AI ügynökök digitális eszközök kezelésével kapcsolatos aggodalmak már e legújabb nyilvánosságra hozatal előtt is léteztek; a kutatók júniusban kiemelték a potenciális nem kívánt károkat, még akkor is, ha ilyen ügynököket legitim célokra telepítenek, és olyan óvintézkedéseket javasoltak, mint a vészleállító mechanizmusok.