Работа, долгое время выполнявшаяся принимавшими решения организациями или людьми, все чаще осуществляется с помощью компьютеризированной автоматизации. Этот сдвиг создает новые пробелы в структурах управления, которые руководят правильностью, справедливостью и динамикой важных процессов и решений. Когда существующие системы управления не приспособлены к скорости, масштабированию и сложности этих новых автоматизированных систем, любые предвзятые, непреднамеренные или неверные результаты могут остаться незамеченными или их будет трудно исправить, даже если они будут обнаружены. Эти пробелы связаны с тем, что природа искусственного интеллекта (ИИ) создает неотъемлемые фундаментальные препятствия для управления и подотчетности в системах, которые опираются на автоматизацию. Проектирование автоматизации в системах - это не только технический вопрос для инженеров и разработчиков. но вопрос управления для политиков и пользователей. Управление компьютеризированными системами должно предполагать и реагировать на возможность создания (или усиления) неравенства, а автоматические системы должны быть поддерживать человеческие ценности в качестве средства ограничения вреда.
Чтобы реализовать все преимущества автоматизации, правительства и технологи должны совместно разработать структуры управления для регулирования новых возможностей компьютерных систем. Полученная в результате структура социотехнического управления, или совокупность технических разработок, способов реализации, документации и гарантий наряду с политикой, управлением, обслуживанием, возмещением ущерба и правоприменением, должна включать людей в систему в качестве активных участников, а не просто пассивных получателей технологий. Рассмотрение предполагаемого контекста и технологической «начинки» приложения как единой системы, включая затронутых людей, а также лиц, принимающих решения, которые контролируют структуру и функции системы, - лучший способ определить, какие вмешательства и ограничения уменьшат потенциальный вред от ее внедрения. Построение социотехнических структур контроля требует понимания как систем, которыми они управляют, так и социального и организационного контекста, в котором они действуют. Таким образом, для надлежащего управления автоматизированные системы должны разрабатываться совместно со своими структурами управления, каждая из которых предназначена для взаимной поддержки и регулирования.
Читайте также:
Возможен ли боевой искусственный интеллект (ИИ), работающий по этическим правилам?
Почему философские дискуссии сегодня должны иметь общественный резонанс