Главная » Новости и комментарии » 2021 » Искусственный интеллект все равно остается набором правил, созданных человеком

Искусственный интеллект все равно остается набором правил, созданных человеком

23.08.2021
723

По Дж. А. Кроллу

Работа, долгое время выполнявшаяся людьми, принимающими решения, или организациями все чаще осуществляется с помощью компьютеризированной автоматизации. Этот сдвиг создает новые пробелы в системах, которые управляют правильностью, справедливостью и динамикой процессов принятия решений. Однако, независимо от того, насколько сложна система ИИ и как она реализована, она всегда представляет собой работу на основе определенных правил. На конфигурацию этих правил могут влиять чиновники, программисты, программные алгоритмы или код компьютера. Правило определяет, каким образом исходные ситуации будут преобразованы в конкретные результаты.
И автоматизация всегда сводит суть решаемой задачи к набору правил, в которых факты о состоянии мира определяют результат. Даже когда для обнаружения сложных правил принятия решений на основе данных используются сложные инструменты машинного обучения, решения хорошо описываются как детерминированное сопоставление входов и выходов. Такие правила могут быть более сложными, чем могут создать люди, поскольку они превращают звуковые волны в транскрибированный текст или пиксели изображения в идентификацию объекта или лица. Тем не менее, это все еще правила. Они также могут меняться со временем на основе обновлений, полученных в результате взаимодействия с миром.
Реорганизация решений на основе правил сопряжена с риском - правила могут применяться не во всех случаях идеально, что приводит к новым ошибкам, с которыми приходится сталкиваться системам. Переориентация процессов вокруг правил повышает значимость разработчиков правил и снижает свободу действий тех, к кому эти правила применяются. Кроме того, когда решения, основанные на правилах, механизированы, машина делает только то, для чего она создана (применяет правило). У нее мало возможностей распознавать или исправлять ошибки.

Сторонники автоматизации часто утверждают, что правила делают решения более «объективными», поскольку их предсказуемость подразумевает, что влияние человека исключено из процесса. Однако люди решают, какие правила применяются и в каких случаях и какие шаблоны фактов будут представлены при принятии решений на основе правил. По мере того, как правила становятся более сложными, их становится труднее понимать, обдумывать и применять. Но сложные правила сохраняют всю негибкость и недостатки простых правил, в то же время приобретая новые проблемы. Ошибок может быть меньше, но они будут менее интуитивными и их будет труднее заметить и исправить. И хотя сложность придает видимость объективности, она скрывает истину о том, что заложенные в машину правила предопределяют результат.
Подобно тому, как автоматизация обеспечивает скорость и масштабирование решений, она также может обеспечивать форму надзора, прозрачности и безопасности. Для реализации этого видения разработчики должны признать, что простого воплощения процессов в правилах, как это делает автоматизация, недостаточно, и мы должны обратиться к целым системам и сопутствующим социотехническим структурам управления.

 
Смотреть все события