Tidligt sidste år infiltrerede en hacker de interne beskedsystemer hos OpenAI, skaberen af ChatGPT, og stjal detaljer om designet af dets A.I. teknologier. Hackeren fik adgang til samtaler på et personaleforum, men han var ikke i stand til at komme forbi de vigtigste systemer, der huser virksomhedens kunstige intelligens forskning og udvikling. Da der ikke blev stjålet nogen partner- eller kundeoplysninger, blev denne hændelse – som blev afsløret til personalemedlemmer under et møde med alle hænder i april 2023 – ikke offentliggjort. Ledere hos OpenAI besluttede ikke at underrette lovmyndighederne om begivenheden, fordi de troede, at hackeren var en person uden forbindelser til udenlandske regeringer.
Dette udløste interne bekymringer om muligheden for, at udenlandske fjender ville stjæle kunstig intelligens (AI) teknologier og bringe den nationale sikkerhed i fare. Det afslørede også svagheder i OpenAIs sikkerhedsmetodologi. En af OpenAIs tidligere tekniske programledere, Leopold Aschenbrenner, kritiserede OpenAI for ikke at træffe passende foranstaltninger for at stoppe udenlandsk spionage.
Arrangementet fremhæver den stigende værdi og modtagelighed af data ejet af kunstig intelligens-firmaer. I lighed med sine rivaler Google og Anthropic, har OpenAI også adgang til enorme mængder af fremragende træningsdata som bruger- og kundekontaktdata. Disse datasæt er ekstremt værdifulde for konkurrenter, regulatorer og statslige aktører ud over at være afgørende for at skabe avanceret A.I. modeller.
Kvaliteten af træningsdata er afgørende for A.I. systemer og kræver en masse menneskelig arbejdskraft at forbedre. Milliarder af brugerinteraktioner udgør OpenAIs databank, som giver rig indsigt i forbrugerpræferencer, branchetrends og menneskelig adfærd. En bred vifte af interessenter, herunder marketingteams, analytikere og andre udviklere, vil finde stor værdi i denne information.
Selv mens hacket var begrænset til et medarbejderforum, gjorde det klart de mulige farer ved større sikkerhedsbrud. AI-virksomheder er ved at blive vogtere af vigtige data, hvilket gør dem til lette mål for cyberangreb. OpenAI-begivenheden tjener som en påmindelse om, at på grund af den følsomme karakter af de involverede data, kan selv små brud have vidtrækkende konsekvenser.
Da sikkerhedsforanstaltningerne skærpes af OpenAI og andre industriaktører, har hacket også ansporet debatter om kravet om stærkere regler og retningslinjer for at beskytte kunstig intelligens (AI) teknologi. Lovgivere på føderalt og statsligt niveau overvejer at vedtage love, der ville straffe virksomheder for sikkerhedsbrud, der resulterer i skade. Men ifølge eksperter er de værste risici fra A.I. teknologier er stadig år væk.
OpenAI-hacket tjener som en advarsel til A.I. sektor, der understreger nødvendigheden af stærke sikkerhedsprotokoller og betydningen af at beskytte følsomme data. Industrien skal være på udkig efter farer, efterhånden som kunstig intelligens (AI) teknologier udvikler sig, og sikre sig, at fordelene ved AI ikke opvejes af eventuelle tilknyttede bekymringer. Spørgsmålet om at finde en omhyggelig balance mellem sikkerhed og innovation fremhæves af denne hændelse, og det bliver kun sværere, efterhånden som kunstig intelligens bliver mere udbredt i vores daglige liv.