За М. Ламберт
Рада з військових інновацій - консультативний комітет технічних керівників, вчених і технологів США - оприлюднив свій список етичних принципів штучного інтелекту (ШІ). Якщо ці рекомендації будуть прийняті міністерством оборони, то вони ляжуть в основу стратегії використання Пентагоном ШІ як в бойових, так і в не бойових системах. Принципи Правління є важливою і необхідноїю віхою на шляху впровадження ШІ.
У своєму офіційному документі рада визнає, що область ШІ постійно розвивається і що запропоновані нею принципи є орієнтирами, до яких повинен прагнути департамент, розробляючи і впроваджуючи технології з підтримкою ШІ. Рада рекомендує, щоб Міністерство оборони прагнуло розробити і розгорнути системи штучного інтелекту, відповідно до принципів:
1. Відповідальності. Перший принцип встановлює відповідальність, покладаючи її на людину не тільки за «розробку, розгортання, [і] використання» систем ШІ, але, що найбільш важливо, за будь-які «результати», які дає ця система. Тягар лягає на людину, а не на ШІ.
2. Справедливості. Другий принцип закликає вжити «превентивні кроки», щоб мінімізувати «ненавмисні результати» в системах ШІ. Зростання технології розпізнавання облич і наступні проблеми «системних упереджень» вимагають заходів щодо пом'якшення потенційних предвзятостей в діях ШІ.
3. Контролю. Третій принцип стосується необхідності технічних знань в Міністерстві оборони, щоб інженери ШІ мали «належне розуміння технології» і розуміння того, як система досягає свого результату.
4. Надійності. Четвертий принцип, говорить, що система ШІ повинна робити те, що було запрограмовано для роботи в тій області, в якій вона була запрограмована. Інженери ШІ повинні проводити тести для забезпечення «безпеки і надійності» системи в перебігу всього її «життєвого циклу».
5. Керованість. П'ятий принцип стосується необхідності забезпечення безпеки при збоях в ситуаціях, коли ШІ отримує непередбачені результати. Система ШІ повинна бути здатна «виявляти і уникати ненавмисної шкоди»; повинні існувати механізми, що дозволяють людині відключати ШІ в режимі реального часу або автоматично.
Ці етичні принципи є цінним і необхідним кроком в серії дій, які були зроблені відносно ШІ.
Прийняття та реалізація важливі, тому що вони вказують світовій громадськості, що оборонне співтовариство США серйозно ставиться до етики ШІ і розуміє необхідність зниження ризиків у цій сфері. У минулому міжнародні організації, такі як ОЕСР, а також такі компанії, як Microsoft або Google, вводили етичні принципи ШІ або створювали етичні поради, не завжди визначаючи механізми реалізації або підзвітності. Необхідно проявити далекоглядність, не тільки прийнявши ці принципи, а й фактично створивши механізми для їх дотримання.
Читайте також:
Що об'єднує популістів Європи?
Стійкі до антибіотиків бактерії стають глобальною загрозою