A principis de l'any passat, un pirata informàtic es va infiltrar als sistemes de missatgeria intern d'OpenAI, el creador de ChatGPT, i va robar detalls sobre el disseny de la seva IA. tecnologies. El pirata informàtic va tenir accés a les converses en un fòrum del personal, però no va poder superar els principals sistemes que allotgen la investigació i desenvolupament d'intel·ligència artificial de l'empresa. Com que no es va robar cap informació de socis o clients, aquest incident, que es va revelar als membres del personal durant una reunió de totes les mans de l'abril de 2023, no es va fer públic. Els executius d'OpenAI van decidir no notificar l'esdeveniment a les autoritats legals perquè pensaven que el pirata informàtic era un individu sense connexió amb governs estrangers.
Això va provocar preocupacions internes sobre la possibilitat que els enemics estrangers robessin tecnologies d'intel·ligència artificial (IA) i poguessin en perill la seguretat nacional. També va revelar debilitats en la metodologia de seguretat d'OpenAI. Un dels antics gestors de programes tècnics d'OpenAI, Leopold Aschenbrenner, va criticar OpenAI per no prendre les mesures adequades per aturar l'espionatge estranger.
L'esdeveniment destaca el valor i la susceptibilitat creixents de les dades propietat de les empreses d'intel·ligència artificial. Igual que els seus rivals Google i Anthropic, OpenAI també té accés a grans volums de dades d'entrenament excel·lents. com a dades de contacte d'usuari i client. Aquests conjunts de dades són extremadament valuosos per als competidors, reguladors i actors estatals, a més de ser essencials per crear IA avançada. models.
La qualitat de les dades de formació és crucial per a l'A.I. sistemes i requereix molta mà d'obra humana per millorar. Milers de milions d'interaccions d'usuaris conformen el banc de dades d'OpenAI, que ofereix informació rica sobre les preferències dels consumidors, les tendències del sector i el comportament humà. Una àmplia gamma de parts interessades, inclosos equips de màrqueting, analistes i altres desenvolupadors, trobaran un gran valor en aquesta informació.
Tot i que el pirateig es va limitar a un fòrum d'empleats, va deixar clars els possibles perills de les infraccions de seguretat a gran escala. Les empreses d'IA s'estan convertint en guardianes de dades importants, cosa que les converteix en objectius fàcils per als ciberatacs. L'esdeveniment OpenAI serveix com a recordatori que, a causa de la naturalesa sensible de les dades implicades, fins i tot petites infraccions poden tenir conseqüències de gran abast.
A mesura que OpenAI i altres actors de la indústria reforcen les mesures de seguretat, el pirateig també ha provocat debats sobre la necessitat de regles i directrius més fortes per salvaguardar la tecnologia d'intel·ligència artificial (IA). Els legisladors a nivell federal i estatal estan pensant a promulgar lleis que penalitzin les empreses per infraccions de seguretat que resultin en danys. Però segons els experts, els pitjors riscos de la IA. les tecnologies encara falten anys.
El pirateig d'OpenAI serveix d'advertència per a la IA. sector, destacant la necessitat de protocols de seguretat forts i la importància de protegir les dades sensibles. La indústria ha d'estar atenta als perills a mesura que progressen les tecnologies d'intel·ligència artificial (IA) i assegurar-se que els avantatges de la IA no es vegin compensats per cap preocupació associada. El problema d'aconseguir un acurat equilibri entre seguretat i innovació es posa de manifest amb aquest esdeveniment, i només es farà més difícil a mesura que la intel·ligència artificial esdevingui més generalitzada a la nostra vida quotidiana.