Začiatkom minulého roka hacker infiltroval interné systémy správ OpenAI, tvorcu ChatGPT, a ukradol podrobnosti o dizajne jeho A.I. technológií. Hacker získal prístup ku konverzáciám na fóre zamestnancov, no nedokázal sa dostať cez hlavné systémy, v ktorých sa nachádza výskum a vývoj umelej inteligencie spoločnosti. Keďže neboli odcudzené žiadne informácie o partnerovi ani zákazníkovi, tento incident – ktorý bol zamestnancom odhalený počas stretnutia všetkých rúk v apríli 2023 – nebol zverejnený. Vedúci predstavitelia OpenAI sa rozhodli neoznámiť túto udalosť orgánom činným v trestnom konaní, pretože si mysleli, že hacker bol jednotlivec bez prepojenia na zahraničné vlády.
To vyvolalo vnútorné obavy z možnosti, že zahraniční nepriatelia ukradnú technológie umelej inteligencie (AI) a ohrozia národnú bezpečnosť. Odhalila tiež slabé miesta v bezpečnostnej metodológii OpenAI. Jeden z bývalých manažérov technických programov OpenAI, Leopold Aschenbrenner, kritizoval OpenAI, že neprijala vhodné opatrenia na zastavenie zahraničnej špionáže.
Podujatie poukazuje na rastúcu hodnotu a náchylnosť údajov, ktoré vlastnia firmy s umelou inteligenciou. Podobne ako jeho konkurenti Google a Anthropic, OpenAI má tiež prístup k obrovskému množstvu vynikajúcich tréningových údajov ako používateľské a zákaznícke kontaktné údaje. Tieto súbory údajov sú mimoriadne cenné pre konkurentov, regulátorov a štátnych aktérov, okrem toho, že sú nevyhnutné na vytváranie pokročilých AI. modelov.
Kvalita tréningových dát je pre A.I. systémov a vyžaduje veľa ľudskej práce na zlepšenie. Miliardy používateľských interakcií tvoria databanku OpenAI, ktorá ponúka bohaté informácie o preferenciách spotrebiteľov, trendoch v odvetví a ľudskom správaní. Široká škála zainteresovaných strán, vrátane marketingových tímov, analytikov a iných vývojárov, nájde v týchto informáciách veľkú hodnotu.
Aj keď bol hack obmedzený na fórum zamestnancov, objasnil možné nebezpečenstvo rozsiahlejšieho narušenia bezpečnosti. AI firmy sa stávajú strážcami dôležitých údajov, čo z nich robí ľahké ciele kybernetických útokov. Udalosť OpenAI slúži ako pripomienka, že z dôvodu citlivej povahy príslušných údajov môžu mať aj malé porušenia ďalekosiahle následky.
Keďže OpenAI a iní hráči v tomto odvetví sprísňujú bezpečnostné opatrenia, hack tiež podnietil diskusie o požiadavke na prísnejšie pravidlá a usmernenia na ochranu technológie umelej inteligencie (AI). Zákonodarcovia na federálnej a štátnej úrovni uvažujú o prijatí zákonov, ktoré by potrestali podniky za porušenia bezpečnosti, ktoré majú za následok poškodenie. Ale podľa odborníkov sú najhoršie riziká zo strany A.I. technológie sú ešte roky vzdialené.
Hack OpenAI slúži ako varovanie pre A.I. s dôrazom na nevyhnutnosť silných bezpečnostných protokolov a význam ochrany citlivých údajov. Priemysel musí dávať pozor na nebezpečenstvá s pokrokom v technológiách umelej inteligencie (AI) a uistiť sa, že výhody AI neprevážia žiadne súvisiace obavy. Problém dosiahnutia dôkladnej rovnováhy medzi bezpečnosťou a inováciami je zvýraznený touto udalosťou a bude to len ťažšie, keď sa umelá inteligencia stane všadeprítomnejšou v našom každodennom živote.