Головна » Новини і коментарі » 2023 » Чи спричинить штучний інтелект до зникнення людства?

Чи спричинить штучний інтелект до зникнення людства?

01.06.2023
507

https://www.bbc.com/news/uk-65746524

"Штучний інтелект може призвести до зникнення людства", - з таким апокаліптичним попередженням виступила група керівників та вчених із технологічних компаній, включаючи OpenAI та Google DeepMind.

"Зменшення ризику зникнення людства через розвиток штучного інтелекту має стати глобальним пріоритетом поряд з іншими ризиками, такими як пандемії та ядерна війна", - йдеться у заяві, опублікованій на сайті Центру безпеки ШІ, некомерційній організації із Сан-Франциско.

Це весь текст заяви, яку його автори свідомо зробили максимально короткою. "Ми не хотіли публікувати список із 30 можливих рекомендацій, щоб … не розбавляти нашу думку", - сказав виконавчий директор організації Ден Хендрікс.

Заяву вже підписали понад 350 керівників, дослідників та інженерів у галузі штучного інтелекту, зокрема Сем Альтман із OpenAI, Деміс Хасабіс із Google DeepMind та Даріо Амодей із Anthropic.

Підписи під документом також лауреати премії Т'юринга, які отримали її за роботу над нейронними мережами, Джеффрі Хінтон і Йошуа Бенджіо, яких часто називають хрещеними батьками ШІ. На початку травня Хінтон навіть звільнився зі своєї посади в Google, щоб отримати можливість вільно говорити про потенційну шкоду технологій без огляду на професійну етику.

Однак далеко не всі експерти зі штучного інтелекту поділяють ці алармістські настрої. Наприклад, Ян Лекун, віце-президент і провідний AI-дослідник корпорації Meta вважає їх сильно перебільшеними. "Я думаю, що масштаби проблеми зрівнювання ІІ [з людським інтелектом] були сміховинно перебільшені, а наша здатність вирішити її - дуже недооцінена", - написав він.

З ним згодні й інші експерти, які вважають, що страхи перед ШІ, по-перше, нереалістичні, а по-друге, відволікають увагу від реальних проблем. "Нині ШІ не настільки розвинений, щоб подібні побоювання матеріалізувалися", - сказав Бі-бі-сі професор Прінстонського університету Арвінд Нараянан.

Розмови про те, що ШІ може або радикально і на краще змінити людське суспільство, або його повністю знищити, існували у науковій фантастиці протягом останніх 80 років. Але лише останнім часом технології вийшли на новий рівень. Тепер ШІ може писати пісні, генерувати реалістичні зображення, створювати комп'ютерний код, писати кіносценарії тощо. Безпосередньо сьогодні проблеми, створювані ШІ, значною мірою стосуються порушення авторських прав і конфіденційності.

Старша наукова співробітниця Оксфордського інституту етики в галузі штучного інтелекту Елізабет Реньєріс сказала Бі-бі-сі, що її більше турбує те, що "розвиток ШІ може збільшити масштаби автоматизованого ухвалення рішень... і призвести до поширення дезінформації".

 

Читайте також:

ВООЗ пропонує контролювати технології ШІ

Голови найбільших IT-компаній були викликані до Білого дому для обговорення безпеки ШІ