Искусственный интеллект угрожает благосостоянию казахстанцев. Эксперты пришли к выводу, что с развитием нейросетей граждане всё чаще будут становиться жертвами аферистов.

Специалисты всерьёз озадачены количеством правдоподобных роликов, которые создаёт ИИ. Говорят, люди верят фальшивым обращениям и переводят деньги «знаменитостям». В Казахстане уже вступил в силу закон, который регулирует использование искусственного интеллекта. Но как он работает и действительно ли сможет сдержать волну «неживого» контента?

Брэд Питт вступил в схватку с Томом Крузом. Вирусный ролик будто фрагмент из блокбастера. Актёры выглядят и ведут себя как настоящие. На деле видео полностью сгенерировано искусственным интеллектом.

Нейросети сегодня могут создавать сцены, которые раньше были доступны только крупным киностудиям. Технологии не стоят на месте. Если ещё несколько лет назад сгенерированные ролики легко выдавали себя, то сейчас от оригинала не отличить. Видео «Уилл Смит ест спагетти» в 2023-м стало не просто мемом, а своеобразным тестом для нейросетей, по которому пользователи проверяли мощность новых моделей.

В Голливуде к таким экспериментам относятся негативно. Реалистичность роликов пугает. Специалисты отмечают: если раньше ИИ рисовал лишние пальцы, зубы и глаза, то современные модели практически не оставляют заметных следов.

Руслан Ауелбеков, программист:

- Сам он отличить на глаз сможет только, например, картинки, которые были сгенерированы моделями с низким количеством видеопамяти. Там появляются артефакты, как лишние пальцы или особые тона. Это такие самые популярные сейчас версии. Они генерируются с артефактами. По этим артефактам можно определить. Но очень качественные - нет. Уже человек не определит, я думаю.

Без специального программного обеспечения распознать качественный фейк обычному человеку непросто. Этим и пользуются мошенники. Во Франции женщина перевела почти 830 тысяч евро человеку, который выдавал себя за Брэда Питта. А в Кыргызстане блогер получила штраф за фото с президентом, созданное ИИ. Попалась на сгенерированные уловки мошенников и жительница Костаная. Она думала, что несколько месяцев переписывается с Киану Ривзом и даже собиралась отправить актёру деньги. Подобные случаи - это только начало, уверены юристы.

Анна Юдина, юрист:

- Все судебные разбирательства по использованию искусственного интеллекта, они нас ждут впереди, и я так думаю, что это время не за горами. С учётом, что каждый день всё больше и больше контента, созданного с помощью искусственного интеллекта, и всё сложнее определить, где правда, где вымысел.

Специалисты отмечают, наказывать будут только за вредоносные ролики. Риски от нейросетей в Казахстане стали официально регулировать. Закон «Об искусственном интеллекте» уже вступил в силу. Любой сгенерированный материал должен выходить с пометкой, чтобы пользователь понимал: перед ним результат работы ИИ. Ответственность за ролик должен нести автор.

Серик Бимендеев, и. о. руководителя управления Комитета цифровых активов и прорывных технологий МИИЦР РК:

- Обязанность по информированию о том, что материалы являются результатом деятельности системы искусственного интеллекта, возложена на собственников. Пользователь не вправе искажать или скрывать такое информирование, а также обязан использовать систему искусственного интеллекта в рамках предоставленных прав доступа и соблюдать установленные правила безопасности.

Правда, пока за использование нейросетей в стране никого не наказывали. Но технологии продолжают развиваться быстрее любых регламентов. И главный вызов теперь не только для законодателей, но и для общества - научиться жить в мире, где реальность можно оказаться виртуальной.

Подробнее читайте на ktk.kz ...

8 +