I början av förra året infiltrerade en hackare de interna meddelandesystemen hos OpenAI, skaparen av ChatGPT, och stal detaljer om designen av dess A.I. tekniker. Hackaren fick tillgång till konversationer på ett personalforum, men han kunde inte ta sig förbi huvudsystemen som inrymmer företagets forskning och utveckling av artificiell intelligens. Eftersom ingen partner- eller kundinformation stals, offentliggjordes inte denna incident – som avslöjades för personalen under ett möte i april 2023 – inte offentligt. Chefer på OpenAI beslutade att inte meddela lagmyndigheter om händelsen eftersom de trodde att hackaren var en individ utan kopplingar till utländska regeringar.
Detta väckte interna oro över möjligheten att utländska fiender skulle stjäla artificiell intelligens (AI)-teknik och äventyra den nationella säkerheten. Det avslöjade också svagheter i OpenAI:s säkerhetsmetodik. En av OpenAI:s tidigare tekniska programchefer, Leopold Aschenbrenner, kritiserade OpenAI för att inte ha vidtagit lämpliga åtgärder för att stoppa utländskt spionage.
Evenemanget belyser det ökande värdet och känsligheten hos data som ägs av företag med artificiell intelligens. I likhet med sina konkurrenter Google och Anthropic, har OpenAI tillgång till enorma mängder utmärkt träningsdata också som användar- och kundkontaktdata. Dessa datauppsättningar är extremt värdefulla för konkurrenter, tillsynsmyndigheter och statliga aktörer, förutom att de är avgörande för att skapa avancerad A.I. modeller.
Kvaliteten på träningsdata är avgörande för A.I. system och kräver mycket mänskligt arbete för att förbättras. Miljarder användarinteraktioner utgör OpenAI:s databank, som erbjuder rika insikter om konsumenternas preferenser, branschtrender och mänskligt beteende. Ett brett utbud av intressenter, inklusive marknadsföringsteam, analytiker och andra utvecklare, kommer att finna stort värde i denna information.
Även om hacket var begränsat till ett anställdsforum, klargjorde det de möjliga farorna med större säkerhetsintrång. AI-företag håller på att bli väktare av viktig data, vilket gör dem till enkla mål för cyberattacker. OpenAI-händelsen tjänar som en påminnelse om att, på grund av den känsliga karaktären hos de inblandade uppgifterna, även små intrång kan få långtgående konsekvenser.
När säkerhetsåtgärderna skärps av OpenAI och andra branschaktörer har hacket också stimulerat debatter om kravet på starkare regler och riktlinjer för att skydda artificiell intelligens (AI)-teknik. Lagstiftare på federal och statlig nivå funderar på att anta lagar som skulle straffa företag för säkerhetsöverträdelser som leder till skada. Men enligt experter är de värsta riskerna från A.I. teknik är fortfarande år borta.
OpenAI-hacket fungerar som en varning till A.I. sektorn, med betoning på nödvändigheten av starka säkerhetsprotokoll och betydelsen av att skydda känsliga uppgifter. Branschen måste vara uppmärksam på faror när tekniken för artificiell intelligens (AI) utvecklas och se till att fördelarna med AI inte uppvägs av eventuella problem. Frågan om att hitta en noggrann balans mellan säkerhet och innovation lyfts fram av denna händelse, och det kommer bara att bli svårare när artificiell intelligens blir mer genomgripande i våra dagliga liv.