Pagājušā gada sākumā hakeris iefiltrējās ChatGPT izveidotāja OpenAI iekšējās ziņojumapmaiņas sistēmās un nozaga informāciju par tā A.I dizainu. tehnoloģijas. Hakeris ieguva piekļuvi sarunām personāla forumā, taču viņš nevarēja tikt garām galvenajām sistēmām, kurās atrodas uzņēmuma mākslīgā intelekta pētniecība un attīstība. Tā kā netika nozagta neviena partnera vai klienta informācija, šis incidents, kas tika atklāts personāla locekļiem 2023. gada aprīļa visaptverošās sanāksmes laikā, netika publiskots. OpenAI vadītāji nolēma nepaziņot tiesībsargājošām iestādēm par notikumu, jo uzskatīja, ka hakeris ir persona, kurai nav saistību ar ārvalstu valdībām.
Tas izraisīja iekšējas bažas par iespēju, ka ārvalstu ienaidnieki nozags mākslīgā intelekta (AI) tehnoloģijas un apdraudēs valsts drošību. Tas arī atklāja OpenAI drošības metodoloģijas nepilnības. Viens no OpenAI bijušajiem tehnisko programmu vadītājiem [Leopolds Ašenbreners] kritizēja OpenAI](https://www.nytimes.com/2024/07/04/technology/openai-hack.html) par to, ka tā nav veikusi atbilstošus pasākumus, lai apturētu ārvalstu spiegošanu.
Pasākums uzsver mākslīgā intelekta firmām piederošo datu pieaugošo vērtību un jutīgumu. Līdzīgi kā konkurentiem Google un Anthropic, arī OpenAI ir pieejams milzīgs daudzums izcilu apmācību datu. kā lietotāja un klienta kontaktinformāciju. Šīs datu kopas ir ārkārtīgi vērtīgas konkurentiem, regulatoriem un valsts dalībniekiem, turklāt tās ir būtiskas uzlabotas A.I. modeļiem.
Apmācības datu kvalitāte ir ļoti svarīga A.I. sistēmas, un to uzlabošanai ir vajadzīgs liels cilvēku darbs. Miljardiem lietotāju mijiedarbības veido OpenAI datu banka, kas piedāvā bagātīgu ieskatu par patērētāju vēlmēm, nozares tendencēm un cilvēku uzvedību. Plašam ieinteresēto personu lokam, tostarp mārketinga komandām, analītiķiem un citiem izstrādātājiem, šī informācija būs ļoti noderīga.
Pat ja uzlaušana aprobežojās ar darbinieku forumu, tā skaidri parādīja iespējamos lielāka mēroga drošības pārkāpumu draudus. AI uzņēmumi kļūst par svarīgu datu sargātājiem, kas padara tos par viegliem kiberuzbrukumu mērķiem. OpenAI notikums kalpo kā atgādinājums, ka iesaistīto datu sensitīvā rakstura dēļ pat nelieliem pārkāpumiem var būt tālejošas sekas.
Tā kā OpenAI un citi nozares dalībnieki pastiprina drošības pasākumus, uzlaušana ir arī izraisījusi diskusijas par prasību pēc stingrākiem noteikumiem un vadlīnijām, lai aizsargātu mākslīgā intelekta (AI) tehnoloģiju. Federālā un valsts līmeņa likumdevēji domā par tādu likumu pieņemšanu, kas sodītu uzņēmumus par drošības pārkāpumiem, kas rada kaitējumu. Bet, pēc ekspertu domām, vissliktākie riski no A.I. tehnoloģijas vēl ir gadu attālumā.
OpenAI uzlaušana kalpo kā brīdinājums A.I. sektorā, uzsverot spēcīgu drošības protokolu nepieciešamību un sensitīvo datu aizsardzības nozīmi. Mākslīgā intelekta (AI) tehnoloģijām attīstoties, nozarei ir jāraugās uz apdraudējumiem un jāpārliecinās, ka AI priekšrocības neatsver jebkādas ar to saistītās bažas. Šis notikums izceļ jautājumu par rūpīga līdzsvara panākšanu starp drošību un inovācijām, un tas tikai kļūs grūtāks, jo mākslīgais intelekts mūsu ikdienas dzīvē kļūs arvien izplatītāks.