Tidlig i fjor infiltrerte en hacker de interne meldingssystemene til OpenAI, skaperen av ChatGPT, og stjal detaljer om utformingen av A.I. teknologier. Hackeren fikk tilgang til samtaler på et personalforum, men han klarte ikke å komme forbi hovedsystemene som huser selskapets forskning og utvikling av kunstig intelligens. Siden ingen partner- eller kundeinformasjon ble stjålet, ble ikke denne hendelsen – som ble avslørt til ansatte under et møte med alle hender i april 2023 – offentliggjort. Ledere ved OpenAI bestemte seg for ikke å varsle lovmyndighetene om hendelsen fordi de trodde hackeren var en person uten tilknytning til utenlandske myndigheter.
Dette utløste interne bekymringer om muligheten for at utenlandske fiender ville stjele kunstig intelligens (AI) teknologier og sette nasjonal sikkerhet i fare. Den avslørte også svakheter i OpenAIs sikkerhetsmetodikk. En av OpenAIs tidligere tekniske programledere, Leopold Aschenbrenner, kritiserte OpenAI for ikke å ta passende tiltak for å stoppe utenlandsk spionasje.
Arrangementet fremhever den økende verdien og følsomheten til data som eies av kunstig intelligens-firmaer. I likhet med konkurrentene Google og Anthropic, har OpenAI også tilgang til enorme mengder utmerket treningsdata som bruker- og kundekontaktdata. Disse datasettene er ekstremt verdifulle for konkurrenter, regulatorer og statlige aktører i tillegg til å være avgjørende for å lage avansert A.I. modeller.
Kvaliteten på treningsdata er avgjørende for A.I. systemer og krever mye menneskelig arbeidskraft for å forbedre seg. Milliarder av brukerinteraksjoner utgjør OpenAIs databank, som gir rik innsikt i forbrukerpreferanser, bransjetrender og menneskelig atferd. Et bredt spekter av interessenter, inkludert markedsføringsteam, analytikere og andre utviklere, vil finne stor verdi i denne informasjonen.
Selv om hacket var begrenset til et ansattforum, gjorde det klart de mulige farene ved større sikkerhetsbrudd. AI-bedrifter blir voktere av viktige data, noe som gjør dem til enkle mål for nettangrep. OpenAI-arrangementet tjener som en påminnelse om at på grunn av den sensitive naturen til de involverte dataene, kan selv små brudd ha vidtrekkende konsekvenser.
Ettersom sikkerhetstiltakene skjerpes av OpenAI og andre bransjeaktører, har hacket også ansporet til debatter om kravet om sterkere regler og retningslinjer for å sikre teknologi for kunstig intelligens (AI). Lovgivere på føderalt og statlig nivå tenker på å vedta lover som vil straffe bedrifter for sikkerhetsbrudd som resulterer i skade. Men ifølge eksperter er de verste risikoene fra A.I. teknologi er fortsatt år unna.
OpenAI-hacket fungerer som en advarsel til A.I. sektor, og understreker nødvendigheten av sterke sikkerhetsprotokoller og betydningen av å beskytte sensitive data. Industrien må være på utkikk etter farer etter hvert som teknologier for kunstig intelligens (AI) utvikler seg og sørge for at fordelene med AI ikke oppveies av eventuelle tilknyttede bekymringer. Spørsmålet om å finne en nøye balanse mellom sikkerhet og innovasjon fremheves av denne hendelsen, og det vil bare bli vanskeligere etter hvert som kunstig intelligens blir mer gjennomgripende i våre daglige liv.