Головна » Новини і коментарі » 5 принципів взаємодії людини і штучного інтелекту

5 принципів взаємодії людини і штучного інтелекту

20.11.2019
664

За М. Ламберт

Рада з військових інновацій - консультативний комітет технічних керівників, вчених і технологів США - оприлюднив свій список етичних принципів штучного інтелекту (ШІ). Якщо ці рекомендації будуть прийняті міністерством оборони, то вони ляжуть в основу стратегії використання Пентагоном ШІ як в бойових, так і в не бойових системах. Принципи Правління є важливою і необхідноїю віхою на шляху впровадження ШІ.

У своєму офіційному документі рада визнає, що область ШІ постійно розвивається і що запропоновані нею принципи є орієнтирами, до яких повинен прагнути департамент, розробляючи і впроваджуючи технології з підтримкою ШІ. Рада рекомендує, щоб Міністерство оборони прагнуло розробити і розгорнути системи штучного інтелекту, відповідно до принципів:

1. Відповідальності. Перший принцип встановлює відповідальність, покладаючи її на людину не тільки за «розробку, розгортання, [і] використання» систем ШІ, але, що найбільш важливо, за будь-які «результати», які дає ця система. Тягар лягає на людину, а не на ШІ.

2. Справедливості. Другий принцип закликає вжити «превентивні кроки», щоб мінімізувати «ненавмисні результати» в системах ШІ. Зростання технології розпізнавання облич і наступні проблеми «системних упереджень» вимагають заходів щодо пом'якшення потенційних предвзятостей в діях ШІ.

3. Контролю. Третій принцип стосується необхідності технічних знань в Міністерстві оборони, щоб інженери ШІ мали «належне розуміння технології» і розуміння того, як система досягає свого результату.

4. Надійності. Четвертий принцип, говорить, що система ШІ повинна робити те, що було запрограмовано для роботи в тій області, в якій вона була запрограмована. Інженери ШІ повинні проводити тести для забезпечення «безпеки і надійності» системи в перебігу всього її «життєвого циклу».

5. Керованість. П'ятий принцип стосується необхідності забезпечення безпеки при збоях в ситуаціях, коли ШІ отримує непередбачені результати. Система ШІ повинна бути здатна «виявляти і уникати ненавмисної шкоди»; повинні існувати механізми, що дозволяють людині відключати ШІ в режимі реального часу або автоматично.

Ці етичні принципи є цінним і необхідним кроком в серії дій, які були зроблені відносно ШІ.

Прийняття та реалізація важливі, тому що вони вказують світовій громадськості, що оборонне співтовариство США серйозно ставиться до етики ШІ і розуміє необхідність зниження ризиків у цій сфері. У минулому міжнародні організації, такі як ОЕСР, а також такі компанії, як Microsoft або Google, вводили етичні принципи ШІ або створювали етичні поради, не завжди визначаючи механізми реалізації або підзвітності. Необхідно проявити далекоглядність, не тільки прийнявши ці принципи, а й фактично створивши механізми для їх дотримання.

 

Читайте також:

Що об'єднує популістів Європи?

Стійкі до антибіотиків бактерії стають глобальною загрозою

 

 
Дивитись всі події