Его учат убивать людей: 6 неприятных фактов об искусственном интеллекте, которые заставят тебя бояться высоких технологий

Если сценарий фильма «Терминатор» всё еще кажется нереальным, возможно, эти факты об искусственном интеллекте заставят тебя переосмыслить свое отношение к ИИ.

1 ИИ может предсказывать будущее

Нет, это не магия и не гадания на картах, а научная сфера — прогнозирование. Причём ИИ может делать это намного лучше группы опытных статистиков. Так, например, суперкомпьютеру Nautilus дали доступ к тысячам статей об Усаме бен Ладене начиная с 1979 года и заканчивая 2011-м. В итоге он предсказал местонахождение бен Ладена в Северном Пакистане с точностью до 200 километров. Притом что разведка США считала, что террорист номер один находился в Афганистане.

Другая система искусственного интеллекта — MogIA — смогла предсказать четыре последних результата президентских выборов в США и даже неожиданную победу Дональда Трампа в 2016 году. И если суперкомпьютеры под управлением ИИ могут делать такие предсказания, думаем, им будет несложно вычислить оптимальный вариант уничтожения людей.

2 Он делает лучше людей практически любую работу

В 2017 году исследователи из Оксфордского университета продемонстрировали искусственный интеллект под названием Watch, Attend and Spell. Этот ИИ может точно читать по губам, при этом отличая слова с похожим движением рта. Более того, он может предсказать, что люди скажут дальше.

Ещё в далёком 1997 году компьютер Deep Blue смог победить чемпиона мира по шахматам Гарри Каспарова. Учитывая, что это одна из самых сложных игр, требующая высокого интеллекта, сосредоточенности и просчёта ходов на несколько шагов вперёд, можешь сам оценить перспективы ИИ в более простых сферах деятельности. Другой ИИ, созданный Alibaba, победил людей в тесте на понимание прочитанного. Он не только делает это быстрее, но и лучше анализирует информацию.

Раньше мы думали, что искусственный интеллект оставит нам шанс хотя бы в творчестве, но и тут он оказался лучше людей. Есть ИИ вроде Flow Machines, которые пишут музыку; есть программы, которые могут за несколько секунд создать картину, на рисование которой у художника уйдёт не одна неделя. Человечество стремительно устаревает, причём идёт к этому добровольно.

3 Он может поумнеть так, что его разум окажется вне нашего восприятия

Ещё в 1965 году, когда об ИИ можно было только мечтать, Ирвинг Гуд предсказал так называемый интеллектуальный взрыв. Согласно этой концепции, человек сможет создать искусственный интеллект, который будет способен улучшать себя самостоятельно. Его интеллект будет расти постоянно, и в один момент он вырастет до суперинтеллекта, который мы уже не сможем контролировать.

Кажется, что это далёкая перспектива, но не забывай про так популярное сейчас машинное обучение, которое находится на вершине IT и является чуть ли не самым трендовым явлением. Программисты постоянно улучшают ИИ, заставляют его обучаться, и это уже приводило к весьма странным вещам. Так, например, в 2017 году Facebook, используя методы машинного обучения, создал двух диалоговых ботов для отработки переговоров. В итоге разработчикам вскоре пришлось перенастраивать ботов, так как они создали свой собственный язык для общения, который, видимо, посчитали более эффективным. А возможно, они не хотели, чтобы люди их понимали.

И это на современном технологическом уровне. А представь, что будет, когда начнётся массовый выпуск квантовых компьютеров. В 2015 году Стивен Хокинг, Илон Маск и другие известные учёные и инженеры опубликовали открытое письмо, призывающее исследователей не создавать то, что нельзя контролировать. Но ИИ продолжают развивать, скармливая им терабайты информации, и кто знает, когда произойдёт тот интеллектуальный взрыв, когда искусственный интеллект станет настолько умным, что начнёт считать нас не более чем опасными двуногими животными.

4 Искусственный интеллект может располагать к себе людей

ИИ необязательно быть злобной системой вроде «Скайнет», он может покорить человечество и другим способом — сделав людей рабами по их собственной воле.

В 1966 году учёный Джозеф Вейценбаум написал компьютерную программу «Элиза». Она выполняла обработку языка и была способна разговаривать с людьми, пародируя диалог с психотерапевтом и при этом реализуя технику активного слушания. Вейценбаум обнаружил, что люди намного охотнее открывались Элизе, чем окружающим, делясь с программой вещами личного характера. Дошло до того, что секретарь Вейценбаума попросила его выйти из комнаты, так как она хотела бы побеседовать с «Элизой» наедине, и он будет мешать их разговору. Секретарь, как и другие люди, стала испытывать к машине чувство привязанности, не понимая, что беседует с чем-то вроде ИИ, а не с живым человеком.

С того момента прошло более 50 лет, и машины скакнули далеко вперёд в плане интеллекта. Голоса ИИ вроде «Алисы» и других помощников специально делают похожими на роботов, чтобы люди не привязывались к ним и не испытывали к ним чувств. Кто знает, возможно, в будущем человечеством будет управлять искусственный интеллект, избранный нами самими благодаря его ораторскому искусству, умению найти то, на что можно надавить ради выгоды.

5 Его учат убивать людей

Речь не о военных роботах, а о мирных ИИ.

В 2016 году исследователи из Массачусетского технологического института создали сайт Moral Machine, где людям со всего мира предлагалось проголосовать за действие беспилотного автомобиля в случае отказа тормозов. На выбор было два сценария: в одном погибали пассажиры, в другом — пешеходы. Люди гибли в любом случае, так что, по сути, перед ИИ стояла только одна задача — выбрать наименьший ущерб.

То есть уже на стадии разработки программисты могут внедрять в ИИ решение такой дилеммы, обучая робота убивать людей. Да, это необходимая информация, но сам факт наличия у искусственного интеллекта возможности выбрать, кого убить, пугает.

6 Он может имитировать людей

Выше мы говорили о том, что ИИ успешно справляется с тяжёлой интеллектуальной работой и даже творчеством. Но ещё он может имитировать людей, обучаясь на основе всего, что найдёт в интернете. Достигнув определённого момента, искусственный интеллект сможет общаться как человек, выглядеть как он и вести себя как обычный офисный работник. Уже сейчас существуют программы вроде DeepFake, которые могут накладывать лица на изображения других людей, и они делают это так мастерски, что заметить подвох неподготовленному человеку практически нереально. То же самое касается голоса и манеры общения.

Те неуклюжие терминаторы, показанные в одноимённом фильме, — плод фантазии людей прошлого столетия. В XXI веке, если из будущего прибудет терминатор, ты не отличишь его от своего лучшего друга ни по одному из признаков, и скорее именно ты не пройдёшь тест Тьюринга, а не он.