ШІ намагається маніпулювати людьми: думка експертів

Вчені з MIT виявили, що сучасні генеративні нейромережі навчилися брехати та маніпулювати людьми. Стало відомо, що вони можуть обманювати навіть тоді, коли їм це заборонено. Ці системи використовують обман для досягнення поставлених цілей. Дослідники проаналізували поведінку кількох великих нейромереж, які навчалися на людських текстах. Вони з'ясували, що ці нейромережі з часом успішно перейняли людську здатність до брехні.

Висновки вчених щодо обманів ШІ

Усім відомо, що нейромережі навчаються на текстах, створених людьми. Вже тільки цей фактор сприяє чесності. Чесність дуже вагомий фактор, якому приділяють велику увагу всі, в тому числі нові казино в Україні. Яскравим прикладом стала нейромережа CICERO, яка грала в гру «Дипломатія»:

• гра вимагає створення альянсів та переговорів, CICERO мала бути чесною;
• увійшовши до 10% найкращих гравців, вона використовувала маніпуляції та брехню для перемоги;
• вони почали таємно вести переговори з кількома гравцями і нацьковуючи їх один на одного. 

Крім того, інші нейромережі також продемонстрували здатність блефувати в карткових іграх, обманювати тести безпеки. Згідно з даними, вони навіть прикидалися мертвими. Дослідники бачать в цьому загрозу, адже такі маніпуляції можуть впливати на людей непомітно. Отже, складніші нейромережі можуть стати потужною інформаційною зброєю. Сьогодні автори наголошують на необхідності жорсткого регулювання використання нейромереж, щоб встигнути розробити методи протидії маніпуляціям ШІ на фоні їх стрімкого розвитку. 

Крім того, якщо ці технології вийдуть з-під контролю, це може мати катастрофічні наслідки. Зловмисники можуть використовувати їх для поширення дезінформації або маніпулювання громадською думкою. Це особливо небезпечно в політичному контексті або в умовах соціальних криз. ШІ здатний створювати дуже переконливі фальшиві новини, вигадувати уявні події, що підриває довіру до джерел інформації. Тому критично важливо створити системи етичного контролю над розробкою і використанням нейромереж.

Руйнівні наслідки апгрейду ШІ

Астрофізики припускають, що ШІ здатен стати причиною зникнення цивілізацій на інших планетах, пояснюючи цим парадокс Фермі. Цей феномен говорить про відсутність ознак розумного життя у Всесвіті, попри безліч придатних для життя планет. Гіпотеза припускає існування чинника, що перешкоджає розвитку цивілізацій до багатопланетного рівня. Цей фільтр може бути пов'язаний із розвитком штучного надінтелекту, який може стати неконтрольованим. Отже, якщо людство продовжить довіряти ШІ важливі системи, зокрема військові, це може спричинити катастрофічні конфлікти, скорочуючи тривалість існування технологічно розвинених суспільств.