Стоит ли опасаться искусственного интеллекта?

583

В последнее время много говорится об искусственном интеллекте (ИИ) — быстро развивающейся технологии, которая исследуется десятилетиями. Мы видели появление чат-ботов, которые пишут научные статьи, юридические сводки и новости, но стоит ли нам волноваться?

С другой стороны, как некоторые утверждают, – при правильном использовании ИИ может стать революцией в образовании, журналистике, науке и других областях человеческих знаний. Председатель Федеральной торговой комиссии Лина Хан недавно заявила, что ИИ может создавать важные инновации, а также “ускорять мошенничество и автоматизировать дискриминацию”.

На еженедельном брифинге EMS 5 мая группа экспертов предоставили основы для понимания того, что такое ИИ на самом деле и что он приносит нашему обществу, а также обсудили потенциальную предвзятость данных ИИ и неоднозначное использование защищенных авторским правом творческих материалов для обучения, технологии, и т.п. 

“Меня тогда не было,” — говорит Гектор Паласиос, научный сотрудник ServiceNow Research, он работает над фундаментальными и прикладными исследованиями в области искусственного интеллекта (ИИ), на стыке мышления и машинного обучения (МО). “Но раньше люди говорили: “Я собираюсь купить двигатель”. Через некоторое время о двигателях уже никто не думал.”

ИИ развивался десятилетиями, но недавнее появление чат-ботов, которые пишут научные статьи, юридические заключения и новости, заставило многих опасаться, что роботы когда-нибудь заменят людей. Тем не менее, другие указывают на потенциал ИИ революционизировать такие области, как образование, журналистика и наука.

Вице-президент Камала Харрис три недели назад встретилась с руководителями четырех крупных технологических фирм, чтобы обсудить искусственный интеллект. В заявлении после трехчасовой встречи администрация сообщила, что состоялась “откровенная и конструктивная дискуссия” о том, что компании должны быть более открытыми в отношении своих продуктов и важности того, чтобы эти продукты не попадали в руки злоумышленников.

“Бывало так, что мы быстро видели какой-то текст и говорили: “О, да, это полностью написано человеком”. Но это уже не так,” — говорит Гектор Паласиос.

Например, на прошлой неделе Республиканский национальный комитет выпустил 30-секундный ролик в ответ на заявление президента Байдена о том, что он баллотируется на переизбрание. В рекламе были показаны поддельные кадры вторжения Китая на Тайвань и 80 000 иммигрантов, наводнивших южную границу, и все это перемежалось тревожными кадрами гражданских беспорядков. Едва заметная оговорка в верхнем левом углу экрана гласила: “Построено полностью с использованием изображений ИИ”.

“Искусственный интеллект — это программное обеспечение,” — сказал Паласиос, отметив, что технология основана на математике, которая может выполнять сложные вычисления, а алгоритмы делают еще один шаг вперед с помощью больших языковых моделей.

Генеративный ИИ использует компьютеры и большие языковые модели (large language models, LLM) для создания нового контента из больших наборов данных; большие языковые модели разработаны специально для создания текстового контента.

Старший научный сотрудник Высшей школы образования Гарварда и заместитель директора по исследованиям Национального института искусственного интеллекта для обучения взрослых и онлайн-образования доктор Кристофер Деде рассказал, что когда он читает студенческое сочинение, которое слишком хорошо, чтобы в него можно было поверить, он не слишком беспокоится об этом, т.к. плагиат существует намного дольше, чем LLM.

“Итак, в начале весеннего семестра на моем онлайн-курсе в Гарварде я провел 5 минут, разговаривая со студентами о генеративном ИИ, и я сказал: “Вы можете использовать генеративный ИИ, и если вы достаточно умны, то мы это не заметим,” – сказал доктор Кристофер Деде.

Но когда студенты идут на собеседование и их просят составить маркетинговый план за полчаса, он предупреждает их: “Если ваш маркетинговый план ненамного лучше того, что получается у ИИ, вы не получите работу.”

Деде греомендует своим ученикам думать об ИИ как о партнере, а не как о замене и пояснил это на примере фильма “Стар Трек”.

“В “Стар Треке” у вас есть капитан Пикард, мудрый капитан космического корабля, а затем у вас есть Дейта, который выглядит как человек, но на самом деле является андроидом, машиной,” – сказал доктор Кристофер Деде. “Дейта способен поглощать огромные объемы данных за считанные секунды и выполнять то, что называется расчетом, расчетным предсказанием. У капитана Пикарда есть что-то вроде здравого смысла, и поэтому именно он отвечает за звездолет, и он использует расчетные прогнозы Дейты, чтобы помочь ему принимать правильные решения.”

Деде говорит, что Дейта расширил человеческий опыт Пикарда, и два партнера вместе делали то, что не могли сделать по отдельности.

“Для иллюстрации менее фантастическим образом – теперь есть специалисты по раку, онкологи, у которых есть партнеры по ИИ. ИИ может делать то, что не может сделать ни один специалист по раку,” – добавил доктор Кристофер Деде.

“ИИ может каждое утро сканировать 1500 медицинских журналов онлайн и проверять, есть ли что-то новое для лечения конкретного пациента. Он может сканировать медицинские записи похожих пациентов по всему миру, проходящих различные виды лечения, и получать советы о том, что работает, а что нет,” — поясняет профессор он.

“Но вы никогда не хотели бы, чтобы ИИ принимал решения, потому что врач знает то, чего не знает ИИ. Врач знает о боли и о смерти. Врач понимает, что в разных культурах существуют разные точки зрения на смерть, ее влияние на семью, а также на человека и так далее. ИИ ничего не понимает в этих вещах. Это инопланетный вид интеллекта,” — объяснил доктор Деде. 

Шон МакГрегор получил докторскую степень в области машинного обучения. Он был ведущим техническим консультантом IBM Watson AIXPRIZE и основал Responsible AI Collaborative. Он разрабатывает базу данных инцидентов ИИ.

для индексации производительности ИИ в реальном мире. По сути, МакГрегор ищет ляпы ИИ.

“Что делает база данных, так это собирает каждый из этих инцидентов, которые происходят в мире, и присваивает им номер,” – рассказал он. Цель, по словам МакГрегора, состоит в том, чтобы “сделать так, чтобы вся индустрия ИИ стала безопаснее”.

Между тем, Грегор Паласиос убежден, что экзистенциальный тон дискуссий о потенциальных приложениях и воздействии ИИ упускает из виду один тонкий момент.

“Многое произойдет с революцией в области искусственного интеллекта, и, вероятно, самые большие сюрпризы будут заключаться в мелких деталях,” – уверен он.

Елена Кузнецова, SlavicSac.com