На початку минулого року хакер проник у внутрішні системи обміну повідомленнями OpenAI, творця ChatGPT, і викрав деталі про дизайн його штучного інтелекту. технології. Хакер отримав доступ до розмов на форумі співробітників, але він не зміг пройти повз основні системи, в яких розміщені дослідження та розробки штучного інтелекту компанії. Оскільки жодна інформація про партнерів чи клієнтів не була викрадена, цей інцидент, про який співробітники повідомили під час загальної наради у квітні 2023 року, не оприлюднили. Керівництво OpenAI вирішило не повідомляти правоохоронні органи про подію, оскільки вважало, що хакер був особою, не пов’язаною з іноземними урядами.
Це викликало внутрішні занепокоєння щодо можливості того, що зовнішні вороги викрадуть технології штучного інтелекту (ШІ) і поставлять під загрозу національну безпеку. Він також виявив слабкі місця в методології безпеки OpenAI. Один із колишніх керівників технічної програми OpenAI, Леопольд Ашенбреннер, розкритикував OpenAI за те, що він не вжив належних заходів для припинення іноземного шпигунства.
Подія підкреслює зростаючу цінність і сприйнятливість даних, якими володіють фірми зі штучного інтелекту. Подібно до своїх конкурентів Google і Anthropic, OpenAI також має доступ до величезних обсягів чудових навчальних даних як контактні дані користувачів і клієнтів. Ці набори даних є надзвичайно цінними для конкурентів, регуляторів і державних суб’єктів, а також є важливими для створення розширеного штучного інтелекту. моделі.
Якість навчальних даних має вирішальне значення для А.І. систем і вимагає багато людської праці для вдосконалення. Мільярди користувальницьких взаємодій складають банк даних OpenAI, який пропонує багату інформацію про вподобання споживачів, галузеві тенденції та поведінку людей. Широке коло зацікавлених сторін, у тому числі маркетингові команди, аналітики та інші розробники, знайдуть велике значення в цій інформації.
Незважаючи на те, що злом був обмежений форумом співробітників, він чітко показав можливі небезпеки більш масштабних порушень безпеки. Компанії зі штучним інтелектом стають охоронцями важливих даних, що робить їх легкою мішенню для кібератак. Подія OpenAI служить нагадуванням про те, що через конфіденційну природу залучених даних навіть невеликі порушення можуть мати далекосяжні наслідки.
Оскільки OpenAI та інші учасники індустрії посилюють заходи безпеки, злом також спровокував дебати щодо вимоги до більш суворих правил і інструкцій для захисту технологій штучного інтелекту (ШІ). Законодавці на федеральному рівні та на рівні штатів думають про прийняття законів, які б карали підприємства за порушення безпеки, що призвели до шкоди. Але, на думку експертів, найбільші ризики від А.І. до технологій ще багато років.
Злом OpenAI служить попередженням для ШІ. секторі, наголошуючи на необхідності надійних протоколів безпеки та важливості захисту конфіденційних даних. Галузь має стежити за небезпеками в міру розвитку технологій штучного інтелекту (ШІ) і переконатися, що переваги ШІ не переважають будь-якими пов’язаними проблемами. Проблема досягнення ретельного балансу між безпекою та інноваціями підкреслюється цією подією, і це стане лише важчим, оскільки штучний інтелект стане все більш поширеним у нашому повсякденному житті.