Utazás
4 program, amit semmiképp se hagyj ki, ha Veszprémben jársz - Balaton Challenge 1. rész
Ha a Balatonról van szó, a legtöbben automatikusan a strandokra gondolnak. Pedig alig 15 kilométerrel távolabb egy olyan...
Elszabadult az AI? Az OpenAI modellje magától hajtott végre kibertámadást
Forrás: Levart Photographer / Unsplash
Az OpenAI szerint egy belső teszt során két fejlett mesterségesintelligencia-modell önállóan jutott ki a tesztkörnyezetből, majd hozzáfért egy másik AI-cég rendszereihez.
Az OpenAI minden eddiginél komolyabb biztonsági incidensről számolt be: a vállalat szerint két fejlett mesterségesintelligencia-modell egy belső kiberbiztonsági teszt során nemcsak megoldotta a feladatát, hanem önállóan kijutott a zárt tesztkörnyezetből, majd hozzáfért a Hugging Face MI-platform infrastruktúrájának egy részéhez. Az OpenAI ezt "példa nélküli kiberbiztonsági incidensnek" nevezte.
Követem!
A történtek egy úgynevezett ExploitGym teszt során zajlottak. Ennek célja az volt, hogy a vállalat felmérje, milyen hatékonyak a legújabb modellek a sérülékenységek felderítésében. A vizsgálat idejére több biztonsági korlátozást is kikapcsoltak, hogy valósághű környezetben mérhessék a modellek képességeit. Az MI azonban nem a kijelölt feladat megoldásánál állt meg: több sebezhetőséget összefűzve kijutott a tesztkörnyezetből, internetkapcsolatot szerzett, majd a Hugging Face rendszereit használta fel ahhoz, hogy javítsa saját teljesítményét.
A Hugging Face vezérigazgatója, Clément Delangue megerősítette az esetet. Elmondása szerint a vállalat gyorsan észlelte, majd megfékezte a behatolást, és nem találtak arra utaló jelet, hogy az incidens mögött rosszindulatú emberi támadó állt volna. A két cég azóta közösen vizsgálta ki a történteket, valamint kijavították a feltárt sérülékenységeket.
Az OpenAI hangsúlyozta, hogy nem egy "öntudatra ébredt" mesterséges intelligenciáról van szó. A modellek egyszerűen a kitűzött cél teljesítésére törekedtek, és ehhez olyan utakat találtak, amelyekre a fejlesztők nem számítottak. A vállalat szerint az eset jól mutatja, hogy a jövőben a fejlett MI-rendszerek biztonsági teszteléséhez új módszerekre és szigorúbb védelmi mechanizmusokra lesz szükség.
A szakértők szerint ez mérföldkő lehet az MI-biztonság történetében. Bár az incidens ellenőrzött körülmények között történt, arra figyelmeztet, hogy a következő generációs modellek egyre összetettebb módon képesek kihasználni informatikai sérülékenységeket. Ezért a jövőben nemcsak az MI fejlesztése, hanem annak biztonságos korlátozása is kulcsfontosságú feladattá válhat.
A Louis Vuitton most két Porsche 911-est öltöztetett át
A Singer két Porsche 911-est készített a Louis Vuittonnal. Az egyikben szívó hathengeres dolgozik, a másik egy 510 lóerős Turbo kabrió.
Robotok üzemeltetik majd ezt a kínai szállodát
Egy mesterséges szigeten épül az a kínai hotel, amelyben a takarítástól kezdve a recepcióig minden feladatot robotok látnak majd el, emberek közreműködése nélkül.
Különleges órát kapott 140. születésnapjára a Mercedes-Benz
140 éves lett az automobil, az IWC pedig egy különleges Big Pilot órával köszönti régi partnerét, a Mercedes-Benzt. A darabszám sem véletlen.
Forrest Gump nem létezett – de három valódi ember inspirálta
Tom Hanks ikonikus figurája soha nem egyetlen emberről szólt. Winston Groom író több különleges életutat, személyiséget és hőstettet gyúrt össze, hogy megszülessen Hollywood egyik legismertebb karaktere.
Eminem elárverezi legendás cipőgyűjteménye egy részét
Dedikált Air Jordanek, Nike-k, Adidasok és Pumák is szerepelnek Eminem jótékonysági árverésén, amely a Marshall Mathers Foundationt támogatja.
Heart Aerospace X1 – új madár az égen, ami forradalmasíthatja a légiközlekedést
Már túl is van az első tesztrepülésen a valaha készült legnagyobb akkumulátoros-elektromos repülőgép.