Головна » Новини і коментарі » 2024 » OpenAI включила до своєї ради колишнього директора Агентства нацбезпеки США

OpenAI включила до своєї ради колишнього директора Агентства нацбезпеки США

15.06.2024
817

За К.Закшевськи, Г. де Вінк

Компанія OpenAI залучила колишнього генерала армії США та директора Агентства національної безпеки Пола М. Накасона до своєї ради директорів, що є продовженням перестановок, викликаних тимчасовим звільненням генерального директора Сема Альтмана в листопаді.

Накасон, призначений Трампа, який очолив АНБ у 2018 році і якому було запропоновано продовжувати виконувати обов'язки при Байдені, приєднається до комітету з безпеки ради директорів OpenAI, який компанія створила наприкінці травня для оцінки та покращення своєї політики за тестуванням моделей та припинення зловживань.

Призначення кадрового армійського офіцера, який найдовше прослужив керівником кіберкомітету США, відбувається на тлі того, як OpenAI намагається придушити критику щодо своїх методів забезпечення безпеки, у тому числі з боку деяких нинішніх та колишніх співробітників компанії, які стверджують, що творець ChatGPT віддає пріоритет прибутку, а не безпеці своєї продукції. Компанія знаходиться під пильною увагою після відходу кількох ключових співробітників та публічного листа, в якому міститься заклик до радикальних змін у її практиці.

"OpenAI відіграє унікальну роль, протидіючи кіберзагрозам і водночас розробляючи трансформуючі технології, які можуть революціонізувати методи боротьби з ними", - сказав Накасоне у своїй заяві газеті Post. «Я з нетерпінням чекаю на можливість підтримати компанію у захисті її інновацій, одночасно використовуючи їх на благо суспільства і свободи».

На тлі негативної реакції громадськості OpenAI заявила, що наймає більше інженерів з безпеки та підвищує прозорість свого підходу до забезпечення безпеки систем, що лежать в основі її досліджень. Минулого тижня колишній співробітник Леопольд Ашенбреннер заявив у подкасті, що минулого року він написав службову записку раді директорів OpenAI, оскільки вважав, що безпека компанії "недостатня", щоб завадити іноземному уряду взяти під контроль її технологію шляхом злому.

Дослідники безпеки також зазначають, що чат-боти вразливі для так «швидкого впровадження», при яких хакери можуть проникнути в комп'ютерну систему компанії через чат-бота, підключеного до її внутрішніх баз даних. Деякі компанії також забороняють своїм співробітникам використовувати ChatGPT через побоювання, що OpenAI не зможе належним чином захистити конфіденційну інформацію, що передається до його чат-боту.

Накасон приєднується до ради директорів OpenAI після драматичної перестановки. В умовах посилення нормативно-правової бази та активізації зусиль з оцифрування державних та військових служб технологічні компанії все частіше шукають членів рад директорів із військовим досвідом. До ради директорів Amazon входить Кіт Александер, який раніше був командувачем Кіберкомандуванням США і директором АНБ. Google Public Sector, підрозділ компанії, що спеціалізується з продажу хмарних послуг урядам, також має у своїй раді генералів у відставці.

До січня OpenAI діяла заборона на використання її продуктів «у військових цілях». Компанія заявляє, що заборона була знята, щоб дозволити використання у військових цілях, що відповідає її цінностям, включаючи допомогу при стихійних лихах та підтримку ветеранів. «Наша політика постійно забороняє використання наших інструментів, включаючи наш API та ChatGPT, для «розробки чи використання зброї, заподіяння шкоди іншим людям або знищення власності», - заявила представник OpenAI Ліз Буржуа. "Це не змінилося". Накасон не відповів на прохання про коментарі.

Накасон привносить до ради директорів глибокий вашингтонський досвід, оскільки компанія намагається побудувати складнішу стратегію відносин з урядом і донести до політиків, що американські компанії, які займаються штучним інтелектом, є оплотом проти Китаю. «Ми хочемо переконатися, що американські компанії… лідирують в інноваціях цієї технології, я гадаю, революційної технології цього століття», — сказав Накасон, коли його запитали про ШІ під час нещодавнього інтерв'ю Post Live.

 

Читайте також:

Протести проти реформ президента Аргентини Хав'єра Мілея переросли в сутички

Джорджія Мелоні може стати новою Ангелою Меркель у сьогоднішньому ЄС