Головна » Новини і коментарі » 2021 » Чи можна гуманізувати системи зі штучним інтелектом (ШІ)?

Чи можна гуманізувати системи зі штучним інтелектом (ШІ)?

14.07.2021
888

За Дж. А. Кролем

Робота, що довгий час виконувалася організаціями або людьми, все частіше здійснюється за допомогою комп'ютеризованої автоматизації. Цей зсув створює нові прогалини в структурах управління, які обіймають керівні посади правильністю, справедливістю і динамікою важливих процесів і рішень. Коли існуючі системи управління не пристосовані до швидкості, масштабування і складності цих нових автоматизованих систем, будь-які упереджені, ненавмисні або невірні результати можуть залишитися непоміченими або їх буде важко виправити, навіть якщо вони будуть виявлені. Ці прогалини пов'язані з тим, що природа штучного інтелекту (ШІ) створює невід'ємні фундаментальні перешкоди для управління та підзвітності в системах, які спираються на автоматизацію. Проектування автоматизації в системах - це не тільки технічне питання для інженерів і розробників. але питання управління для політиків і користувачів. Управління комп'ютеризованими системами повинно припускати і реагувати на можливість створення (або посилення) нерівності, а автоматичні системи повинні підтримувати людські цінності як засіб обмеження шкоди.
Щоб реалізувати всі переваги автоматизації, уряд і технологи повинні спільно розробити структури управління для регулювання нових можливостей комп'ютерних систем. Отримана в результаті структура соціотехнічного управління, або сукупність технічних розробок, способів реалізації, документації і гарантій поряд з політикою, управлінням, обслуговуванням, відшкодуванням збитків та правозастосуванням, повинна включати людей у ​​систему в якості активних учасників, а не просто пасивних одержувачів технологій. Розгляд передбачуваного контексту і технологічної «начинки» додатка як єдиної системи, включаючи людей, у тому числі осіб, які приймають рішення, які контролюють структуру і функції системи, - кращий спосіб визначити, які втручання і обмеження зменшать потенційну шкоду від її впровадження. Побудова соціотехнічних структур контролю вимагає розуміння як систем, якими вони управляють, так і соціального та організаційного контексту, в якому вони діють. Таким чином, для належного управління автоматизовані системи повинні розроблятися спільно зі своїми структурами управління, кожна з яких призначена для взаємної підтримки і регулювання.

 

Читайте також:

Чи можливий бойовий штучний інтелект (ШІ), який працює за етичними правилами?

Чому філософські дискусії сьогодні повинні мати суспільний резонанс

 
Дивитись всі події