Искусственный интеллект несет потенциальную угрозу международному миру и стабильности. Этот тезис стал лейтмотивом деятельности Генсека ООН в последние месяцы, и закономерно привел к обсуждению в формате Совета Безопасности ООН 18 июля 2023 года. Прежде всего, на обсуждение была вынесена угроза использования технологий генеративного искусственного интеллекта преступниками, террористами, недобросовестными правительствами, что может привести к колоссальным человеческим жертвам, психологическим травмам и другим болезненным последствиям. Не меньше бед может принести использование государствами ИИ в военных целях, а также с целью пропаганды и распространения языка ненависти. При этом Антониу Гутерреш не призывает отказываться от технологий ИИ в целом, ведь они могут быть полезны для борьбы с голодом, заболеваниями, изменениями климата.
На своем первом заседании в истории, которое было посвящено теме искусственного интеллекта, Совбез ООН не только занимался перечислением потенциальных проблем от ИИ, но и пытался придумать пути безопасного использования соответствующих технологий. Прежде всего, руководство ООН предлагает до конца 2023 года создать всемирный контролирующий орган, который будет отслеживать тренды в развитии ИИ и докладывать о них СБ ООН. В этот орган войдут эксперты в области искусственного интеллекта, и они должны будут давать рекомендации правительствам по поводу шагов в разработке ИИ. Образцом для работы такого органа будут МАГАТЭ и другие международные агентства, которые специализируются на конкретных важных для всего человечества темах. Вторым шагом станет создание регулирующих норм в сфере развития ИИ, которые позволят тестировать новые технологии на предмет возможного вредоносного применения. На сегодня таких общепризнанных стандартов не существует, и это позволяет разработчикам создавать технологии, которые могут принести катастрофические последствия в случае использования с целью разжигания ненависти и насилия.