Ez már ijesztő: így védi magát a mesterséges intelligencia

A mesterséges intelligencia egyre jobban fejlődik, egyre inkább beleszövi magát a mindennapjainkba. Számos jelentős techcég helyezi középpontban újabb és újabb eszközeinek fejlesztésekor. Közben pedig sok-sok kérdés merül fel a felhasználókban is: mennyire biztonságosak ezek? Hogyan kezelik az adatainkat? Nem veszélyesek? Alapvetően érdemes inkább a pozitívumokat meglátni, de vannak már intő jelek, hogy nem árt az óvatosság.

Ne maradj le cikkeinkről, like-olj minket a Facebookon is!

Követem!

Ilyen például, ha egy robot elszabadul:

Most néhány friss kísérlet fokozza tovább az aggodalmat: úgy fest, a fejlettebb mesterségesintelligencia-modelleknek elég jól megy az önvédelem. Ha a felhasználó leállításra vonatkozó instrukciókat ad, akkor inkább a túlélést helyezik előtérbe a feladat végrehajtásával szemben.

A kutatók többféle modellt is alávetettek a teszteknek. Az OpenAI-féle o3 például úgy írta át saját szkriptjét, hogy továbbra is online maradhasson. Az Anthropic-féle Opus 4 pedig egy mérnököt próbált megzsarolni: előbb csak visszafogott érvekkel tiltakozott a leállítás ellen, majd fenyegetőzni kezdett. Sőt, volt, hogy üzenetet akart hátrahagyni saját későbbi verziója számára, valamint saját magáról távoli szerverre készített volna biztonsági másolatot azzal a felütéssel, hogy azt majd katonai célokra használják fel.

A mesterséges intelligencia biztonságával foglalkozó Palisade Research kutatója, Jeffrey Ladish szerint jó dolog, hogy ezek a tünetek, ezek a figyelmeztető jelek már most felbukkannak, még azelőtt, hogy a rendszerek ténylegesen olyan erőssé és önállóvá válnának, hogy kizárják a beavatkozás lehetőségét. Jelenleg csak tesztkörnyezetben tapasztalták ezt a fajta ellenállást, a Haize Labs első embere, Leonard Tang pedig nem is látja valószínűnek, hogy a mindennapok során veszélyt jelentsenek az MI-rendszerek, de ennek esélyét nem lehet kizárni.

A tanulság nem más, mint hogy a biztonságot komolyan kell venni. Most, hogy sokan vannak versenyben, és egymásra licitálva dobják ki az intelligensebbnél intelligensebb modelleket, még azelőtt kell meghúzni a határokat és a kordában tarthatóságot garantálni, hogy a gépek túl okosak lennének.

Galériánkban mutatunk néhány nagyszerű filmet a témában: