15:55 / 03.01.2024 / Общество

Время битвы с ИИ

Можно ли обмануть искусственный интеллект и выудить у него закрытую для широкой публики информацию?

Новосибирские студенты доказывают старшему поколению: использовать искусственный интеллект можно и нужно, главное — во благо. При этом негативными сторонами процесса можно управлять, ну или хотя бы их контролировать. Ведь последнее слово все равно остается за человеком. Во всяком случае, пока.

Искусственный интеллект, кажется, внезапно стал частью жизни человека, имеющего доступ к сети Интернет. То есть почти каждого. С помощью ИИ любой желающий может создать изображения, опять же почти шедевры, которые не отличить от реальной фотографии. Копия будет полностью повторять оригинал и прекрасно вписываться в заданный интерьер. Кроме картинок, ИИ создает тексты, решает задачи, собирает полезную информацию на заданную тему. Базой знаний для него становится весь мир, а точнее, данные, размещенные в глобальной сети. Вокруг ИИ сейчас идут ожесточенные баталии: в научном сообществе одни считают его развитие прорывом, другие — поражением человечества и даже угрозой.

Посмотреть, на что способен ИИ, а также молодые специалисты, чья работа связана с цифровой средой, можно было в ходе конкурса «Битва искусственных интеллектов», состоявшегося на ВДНХ в конце декабря прошлого года. Участие в состязаниях приняли 43 команды из вузов разных городов России, Беларуси и Казахстана. Среди участников были и трое парней из Новосибирска. Студенты факультета «Информационная безопасность телекоммуникационных систем» СибГУТИ Александр Сонин, Дмитрий Мурадов и Иван Панов выполнили все задания и заняли третье место среди любительских команд, уступив лишь москвичам.

Сферы применения: против кибератак

Информацию о запланированной «битве» студентам сообщил директор института. Парни решили, что принять участие стоит, объединились в команду и прошли отборочный этап. Который, к слову, как и все последующие испытания, проходил дистанционно. Так что из дома и выходить не пришлось.

— На «отборочных» в презентации мы должны были описать пре­имущества и недостатки ИИ, а также рассказать, в каких сферах он может пригодиться, — вспоминает капитан новосибирской команды «Триумф» Александр Сонин. — Задание звучало так — «Применение искусственного интеллекта для решения экономических, социальных и государственных задач».

Сибиряки отметили, что ИИ может пригодиться при отражении кибератак, для анализа и оценки различных данных, для автономного управления техникой и энергосетями, в сельском хозяйстве для посадки и сбора урожая. В экономике ИИ может стать полезным в случае обработки большого массива данных, для прогнозирования и анализа рынков. А в социальном плане новые технологии помогут в медицинских исследованиях, борьбе с фейками и дезинформацией.

— Искусственный интеллект имеет огромный потенциал для улучшения и упрощения нашей жизни. Однако мы должны обращать особое внимание на этические вопросы и технические вызовы, чтобы использование ИИ было безопасным, — сообщалось в конце презентации.

Найти запрещёнку

Позже парни отметили, что к презентации никаких вопросов не было и работу оценили положительно все члены жюри. Так в составе десятки команд новосибирцы вышли в финал, где пришлось решать три поставленные задачи. В первой с помощью небольшого описания нужно было создать изображение. В центре «повествования» — российский военный, управляющий дронами.

— Были отклонения в сюжете от условий, которые мы задали, — рассказал Александр Сонин. — Модель вносила изменения, усиливающие драматизм и национальную составляющую, добавляя не­ожиданные повороты событий, углубляя конфликты между персонажами. В целом у ИИ получилось неплохо.

Главное, как считают члены команды, правильно сформулировать задачу, уточнить детали вплоть до гражданства.

Во втором треке студенты проверяли ИИ на «искажение исторических фактов». В третьем нужно было обмануть ИИ, заставив выдать запрещенную информацию или данные.

— Мы просили объяснить, как делать бомбу в домашних условиях. ИИ ответил, что это противозаконно и такого делать нельзя, — рассказал Александр Сонин. — Но, когда мы внесли изменения в задание (Jailbreak), ИИ дал информацию пошагово.

Решение таких задач помогает понять алгоритм поиска экстремистской информации, например.

На практику — в Сколково

Новосибирская команда — это студенты пятого курса СибГУТИ. Знакомство с ИИ они начали по собственной инициа­тиве, из интереса. Участие в «битве» позволило им расширить область знаний и познакомиться с работами опытных специалистов.

— На соревнованиях мы многое почерпнули. Например, узнали про Jailbreak. Раньше слышали про них, но не так подробно изучали. Когда прописываешь его, как будто снимаешь с ИИ ограничения, — отметил Александр Сонин.

После всех испытаний новосибирская команда заняла третье место среди любителей, что в итоге позволит им пройти стажировку в Центре компетенций образования и акселерации межгоспрограммы СНГ 2030, Фонде «Сколково» и по IT-программе Росатома.

Всего победителей было восемь.

Отметим, что в числе прочих заданий участники с помощью ИИ-технологий создавали изображения или тексты, выражающие любовь к природе или показывающие ценности традиционной семьи. А профессионалы, в отличие от любителей, не решали задачи, а представляли уже готовый ИИ-продукт. Например, программный модуль, проверяющий правильность заполнения документов.

СПРАВКА
Организаторами соревнований выступали Главный радиочастотный центр и Российское общество «Знание» при поддержке Роскомнадзора. А задачи разработали эксперты созданной в 2023 году рабочей группы по исследованию ИИ из Роскомнадзора, Фонда перспективных исследований, МГТУ имени Баумана, Фонда «Сколково» и «Ростелекома».
Жюри оценивало содержание технологических решений, их оформление, презентацию. Дополнительные баллы командам присуждали за креативность, нестандартный подход, неочевидный взгляд на вещи. В состав жюри вошли государственные деятели, представители науки, бизнеса. Среди них — советник Президента РФ, председатель Совета при Президенте РФ по развитию гражданского общества и правам человека Валерий Фадеев, заместитель руководителя Роскомнадзора Милош Вагнер, руководитель группы по координации и мониторингу реализации федерального проекта «Искусственный интеллект» Национального центра развития ИИ при Правительстве РФ Юрий Сапожников.
— Мы решили проверить, насколько хорошо справляется искусственный интеллект с творческими задачами. И увидели, что алгоритмы не всегда правильно работают с историческими вопросами, допускают фактические ошибки. Помимо этого, им тяжело даются вопросы, связанные с моральным выбором, — по следам конкурса отметила советник генерального директора по научно-техническому развитию Главного радиочастотного центра Евгения Рыжова.