Робота, що довгий час виконувалася організаціями або людьми, все частіше здійснюється за допомогою комп'ютеризованої автоматизації. Цей зсув створює нові прогалини в структурах управління, які обіймають керівні посади правильністю, справедливістю і динамікою важливих процесів і рішень. Коли існуючі системи управління не пристосовані до швидкості, масштабування і складності цих нових автоматизованих систем, будь-які упереджені, ненавмисні або невірні результати можуть залишитися непоміченими або їх буде важко виправити, навіть якщо вони будуть виявлені. Ці прогалини пов'язані з тим, що природа штучного інтелекту (ШІ) створює невід'ємні фундаментальні перешкоди для управління та підзвітності в системах, які спираються на автоматизацію. Проектування автоматизації в системах - це не тільки технічне питання для інженерів і розробників. але питання управління для політиків і користувачів. Управління комп'ютеризованими системами повинно припускати і реагувати на можливість створення (або посилення) нерівності, а автоматичні системи повинні підтримувати людські цінності як засіб обмеження шкоди.
Щоб реалізувати всі переваги автоматизації, уряд і технологи повинні спільно розробити структури управління для регулювання нових можливостей комп'ютерних систем. Отримана в результаті структура соціотехнічного управління, або сукупність технічних розробок, способів реалізації, документації і гарантій поряд з політикою, управлінням, обслуговуванням, відшкодуванням збитків та правозастосуванням, повинна включати людей у систему в якості активних учасників, а не просто пасивних одержувачів технологій. Розгляд передбачуваного контексту і технологічної «начинки» додатка як єдиної системи, включаючи людей, у тому числі осіб, які приймають рішення, які контролюють структуру і функції системи, - кращий спосіб визначити, які втручання і обмеження зменшать потенційну шкоду від її впровадження. Побудова соціотехнічних структур контролю вимагає розуміння як систем, якими вони управляють, так і соціального та організаційного контексту, в якому вони діють. Таким чином, для належного управління автоматизовані системи повинні розроблятися спільно зі своїми структурами управління, кожна з яких призначена для взаємної підтримки і регулювання.
Читайте також:
Чи можливий бойовий штучний інтелект (ШІ), який працює за етичними правилами?
Чому філософські дискусії сьогодні повинні мати суспільний резонанс