A principios do ano pasado, un hacker infiltrouse nos sistemas internos de mensaxería de OpenAI, o creador de ChatGPT, e roubou detalles sobre o deseño da súa IA. tecnoloxías. O hacker accedeu ás conversacións nun foro do persoal, pero non puido superar os principais sistemas que albergan a investigación e desenvolvemento de intelixencia artificial da compañía. Dado que non se roubou ningunha información de socios ou clientes, este incidente, que foi revelado aos membros do persoal durante unha reunión de todos os membros de abril de 2023, non se fixo público. Os executivos de OpenAI decidiron non notificar o evento ás autoridades legais porque pensaban que o hacker era un individuo sen conexións con gobernos estranxeiros.
Isto provocou preocupacións internas sobre a posibilidade de que os inimigos estranxeiros roubaran tecnoloxías de intelixencia artificial (IA) e poñan en perigo a seguridade nacional. Tamén revelou debilidades na metodoloxía de seguridade de OpenAI. Un dos antigos xestores de programas técnicos de OpenAI, Leopold Aschenbrenner, criticou a OpenAI por non tomar as medidas adecuadas para deter a espionaxe estranxeira.
O evento destaca o crecente valor e susceptibilidade dos datos propiedade de empresas de intelixencia artificial. Do mesmo xeito que os seus rivais Google e Anthropic, OpenAI tamén ten acceso a enormes volumes de excelentes datos de adestramento. como datos de contacto de usuarios e clientes. Estes conxuntos de datos son moi valiosos para competidores, reguladores e actores estatais ademais de ser esenciais para crear IA avanzada. modelos.
A calidade dos datos de formación é fundamental para a I.A. sistemas e require moito traballo humano para mellorar. Miles de millóns de interaccións dos usuarios conforman o banco de datos de OpenAI, que ofrece información rica sobre as preferencias dos consumidores, as tendencias da industria e o comportamento humano. Unha ampla gama de partes interesadas, incluíndo equipos de marketing, analistas e outros desenvolvedores, atoparán un gran valor nesta información.
Aínda que o pirateo estaba restrinxido a un foro de empregados, deixou claros os posibles perigos das violacións de seguridade a maior escala. As empresas de intelixencia artificial están a converterse en gardiáns de datos importantes, o que os converte en obxectivos sinxelos de ciberataques. O evento OpenAI serve como recordatorio de que, debido á natureza sensible dos datos implicados, incluso pequenas infraccións poden ter consecuencias de gran alcance.
A medida que OpenAI e outros actores da industria están reforzando as medidas de seguridade, o hack tamén provocou debates sobre a esixencia de regras e directrices máis fortes para salvagardar a tecnoloxía de intelixencia artificial (IA). Os lexisladores a nivel federal e estatal están a pensar en promulgar leis que penalicen ás empresas por violacións de seguridade que provocan danos. Pero segundo os expertos, os peores riscos da A.I. tecnoloxías aínda quedan anos.
O hack de OpenAI serve como aviso para a IA. sector, facendo fincapé na necesidade de protocolos de seguridade fortes e na importancia de protexer os datos sensibles. A industria debe estar atento aos perigos a medida que avanzan as tecnoloxías de intelixencia artificial (IA) e asegurarse de que as vantaxes da IA non se vexan superadas por ningunha preocupación asociada. O problema de lograr un equilibrio coidadoso entre seguridade e innovación ponse de manifesto por esta ocorrencia, e só se fará máis difícil a medida que a intelixencia artificial se faga máis xeneralizada na nosa vida diaria.