V začetku lanskega leta se je heker infiltriral v notranje sisteme za sporočanje OpenAI, ustvarjalca ChatGPT, in ukradel podrobnosti o zasnovi njegovega AI. tehnologije. Heker je dobil dostop do pogovorov na forumu zaposlenih, vendar ni mogel priti mimo glavnih sistemov, v katerih se nahajajo raziskave in razvoj umetne inteligence podjetja. Ker niso bili ukradeni nobeni podatki o partnerju ali stranki, ta incident – ki je bil članom osebja razkrit na skupnem sestanku aprila 2023 – ni bil javno objavljen. Vodstvo pri OpenAI se je odločilo, da o dogodku ne bo obvestilo pravosodnih organov, ker so mislili, da je heker posameznik, ki ni povezan s tujimi vladami.
To je sprožilo notranje skrbi glede možnosti, da bi tuji sovražniki ukradli tehnologije umetne inteligence (AI) in ogrozili nacionalno varnost. Razkrila je tudi slabosti v varnostni metodologiji OpenAI. Eden od nekdanjih vodij tehničnega programa OpenAI, Leopold Aschenbrenner, je kritiziral OpenAI, ker ni sprejel ustreznih ukrepov za zaustavitev tujega vohunjenja.
Dogodek poudarja vse večjo vrednost in dovzetnost podatkov v lasti podjetij za umetno inteligenco. Podobno kot njegova tekmeca Google in Anthropic ima tudi OpenAI dostop do ogromnih količin odličnih podatkov o usposabljanju kot kontaktni podatki uporabnikov in strank. Ti nabori podatkov so izjemno dragoceni za konkurente, regulatorje in državne akterje, poleg tega pa so bistveni za ustvarjanje naprednega AI. modeli.
Kakovost podatkov o usposabljanju je ključnega pomena za A.I. sistemov in zahteva veliko človeškega dela za izboljšanje. Milijarde uporabniških interakcij sestavljajo podatkovno banko OpenAI, ki ponuja bogat vpogled v preference potrošnikov, industrijske trende in človeško vedenje. Širok nabor zainteresiranih strani, vključno z marketinškimi skupinami, analitiki in drugimi razvijalci, bo našel veliko vrednost v teh informacijah.
Čeprav je bil vdor omejen na forum zaposlenih, je jasno pokazal možne nevarnosti obsežnejših kršitev varnosti. Podjetja z umetno inteligenco postajajo varuhi pomembnih podatkov, zaradi česar so lahke tarče kibernetskih napadov. Dogodek OpenAI služi kot opomnik, da imajo lahko zaradi občutljive narave vpletenih podatkov že majhne kršitve daljnosežne posledice.
Ker OpenAI in drugi akterji v industriji zaostrujejo varnostne ukrepe, je vdor spodbudil tudi razprave o zahtevi po strožjih pravilih in smernicah za zaščito tehnologije umetne inteligence (AI). Zakonodajalci na zvezni in državni ravni razmišljajo o sprejetju zakonov, ki bi kaznovali podjetja za kršitve varnosti, ki povzročijo škodo. Toda po mnenju strokovnjakov so najhujša tveganja zaradi AI. tehnologije so še leta stran.
Vdor v OpenAI služi kot opozorilo za A.I. sektorja, pri čemer je poudaril potrebo po močnih varnostnih protokolih in pomen zaščite občutljivih podatkov. Industrija mora biti pozorna na nevarnosti, ko tehnologije umetne inteligence (AI) napredujejo, in zagotoviti, da prednosti umetne inteligence ne odtehtajo morebitni s tem povezani pomisleki. Ta dogodek poudarja vprašanje iskanja skrbnega ravnovesja med varnostjo in inovacijami, ki bo le še težje, ko bo umetna inteligenca vse bolj prodorna v naše vsakdanje življenje.