Блокчейн, дипфейки и чат-боты: Как в Казахстане будут регулировать искусственный интеллект

Искусственный интеллект прочно вошел в повседневную жизнь казахстанцев. Это требует создания законодательной базы, регулирующей его использование. Депутаты Мажилиса Парламента в беседе с корреспондентом BaigeNews.kz рассказали о важных аспектах, которые должны быть отражены в новом законопроекте.

Как отметила депутат Мажилиса Екатерина Смышляева, законодательное регулирование ИИ необходимо по двум ключевым причинам. Первая из них – безопасность использования технологий и гарантия их гармоничного внедрения в систему общественных отношений.

Смышляева указала, что ИИ способен изменить структуру отраслей и приоритеты в них, что, в свою очередь, может повлиять на трудовые отношения и вызовет опасения по поводу исчезновения профессий. Чем раньше начнется процесс регулирования, тем лучше, считает депутат.

Вторая причина заключается в создании благоприятного инвестиционного климата. По словам депутата, крупные компании готовы вкладывать средства в развитие моделей и алгоритмов ИИ, но для этого им нужна четкая и стабильная регуляторная модель. Законопроект должен решить вопросы этики, безопасности и порядка использования ИИ, что привлечет инвесторов и поддержит развитие стартапов.

"В части этики – это основные принципы использования ИИ. В цифровом мире они имеют огромное значение, поскольку других инструментов у регулятора по факту не может быть. Вернее, может, но их трудно будет администрировать", - отметила мажилисвумен.

Проектом предусмотрена классификация продуктов ИИ. В будущем это позволит определить, какие разработки будут всегда под пристальным вниманием регулятора, какие могут развиваться самостоятельно. Учету будут подлежать, прежде всего, продукты в сфере государственного управления и здравоохранения.

Екатерина Смышляева отметила, что очень важно обеспечить понятное распределение ответственности в отношениях с участием алгоритмов. С точки зрения регулирования – это самая сложная задача. В Мажилисе намерены детально обсуждать ее решение.

Также предлагается внедрить механизмы маркировки продуктов с использованием ИИ. Это важно, прежде всего, с точки зрения защиты прав потребителей.

Определенные регуляторные моменты предстоит решить проекту закона в части работы национальной платформы развития ИИ. Депутаты планируют коснуться обеспечения равного доступа к данным и в целом усилить их администрирование и защиту. Но это последовательная работа, которая осуществляется поэтапно. Не только в рамках закона об ИИ, уточняют они.

"При подготовке национальной модели регулирования мы, конечно, внимательно изучали международный опыт. И продолжаем следить за изменениями. Цифровые технологии имеют свои особенности. Они проникающие и трансграничные. Очень трудно создать для них локальное правовое регулирования "без оглядки" на мировые тренды. Уверена, что в ходе работы над проектом в Мажилисе с привлечением широкого круга экспертов добавятся новые предложения", - сказала представитель Мажилиса.

Что с дипфейками?

В последние годы все более популярным становятся дипфейки - технология, использующая искусственный интеллект для создания реалистичных, но поддельных видеороликов или изображений.

Дипфейки представляют собой мощный инструмент с потенциалом для использования, как в конструктивных, так и в деструктивных целях. Как и с любыми другими технологиями, важно развивать правовые и этические рамки использования. Одновременно необходимо максимально использовать положительные аспекты в различных областях.

Как отметила Екатерина Смышляева, среди задач в отношении борьбы с дипфейками в Казахстане упор ставится не только в правовом регулировании.

"Сегодня стоит задача создания инструментов для обнаружения дипфейков. Для этого уже используются специальные алгоритмы, различные системы маркировки, в том числе оригинального контента. Цепочки изменений медиа файлов отслеживаются с помощью блокчейна. Но задача это крайне непростая. После выработки таких решений, необходимо обеспечить к ним открытый доступ. Чтобы каждый человек мог проверить материал на подлинность. А лучше, если это будет сделано автоматически той средой, в которой он распространяется", - сказала она.

В части правового регулирования в международной практике используется запрет на использование дипфейков для незаконных целей и усиление ответственности за это, обязательное маркирование контента, определение границ использования дипфейков..

Важно также учитывать трансграничный характер технологий и принимать меры по международному противодействию дипфейкам.

ИИ в журналистике

Депутат Сергей Пономарев в свою очередь подчеркнул, что использование ИИ в журналистике должно быть регулируемым, чтобы предотвратить злоупотребления и манипуляции.

"Важно, чтобы журналисты и блогеры указывали на использование ИИ в своих материалах, что поможет обеспечить прозрачность и доверие к контенту. Возможно, каким-то значком или ссылкой будут отмечать", - сказал мажилисмен.

Пономарев отметил, что казахстанские журналисты уже используют ИИ для редактирования текстов, обработки видеоматериалов и другой работы. Однако он напоминает коллегам, что нужно использовать ИИ с умом, строго контролируя его.

Он подчеркивает, что в преддверии изменений, которые могут произойти в течение следующих 5 лет, журналистам следует готовиться к новым условиям и развивать навыки, которые не может заменить ИИ.

"Сейчас искусственный интеллект становится всё совершеннее, если хотите, хитрее, мудрее, изощрённее. Мы знаем, что уже совсем скоро он заменит журналиста. Надо к этому готовиться, надо находить специальности, которые мы могли бы поставить взамен тем, которые будут утеряны. Например, журналистам, я могу сказать, что репортажи ИИ никогда делать не будет. Журналистские расследования никогда делать не будет. Поэтому надо готовиться к тому, чтобы делать репортерскую работу. Искусственный интеллект может делать аналитику или, например, спортивные обзоры, также новости, комментарии и пресс-релизы. А на месте событий все равно должен работать журналист", - отметил Пономарев.

Екатерина Смышляева отмечает, что вопрос о замене профессий искусственным интеллектом зависит от характера задач и уровня креативности, аналитики или социальной вовлеченности, которые они требуют.

Прежде всего, ИИ заменит те профессии, которые связаны с решением рутинных и повторяющихся задач. Это - операторы колл-центров, бухгалтеры, юридические консультанты, копирайтеры, переводчики, кассиры.

Кроме того, будут функции внутри профессий, которые подлежат автоматизации. В таких случаях, освободится время для более важных задач, требующих участия человека.

"Не заменит ИИ креативные профессии, связанные с творчеством. Ученые, новаторы также еще долго будут в строю. Выживут профессии, требующие высокой эмоциональной вовлеченности – это социальные службы. В отраслях с высокими рисками, например, медицина или судебная система, ИИ активно используется уже сегодня, но окончательное решение все-таки пока будет за человеком. В тяжеловесных областях, на мой взгляд, ИИ пока не сможет заменить людей, принимающих решения", - сказала депутат.

Интеграция чат-ботов в повседневную жизнь

В то время как законодательство по ИИ разрабатывается, чат-боты, такие как ChatGPT, уже активно внедряются в жизнь казахстанцев. По прогнозам, в ближайшие 3-5 лет технологии ИИ значительно улучшатся и расширят свои области применения. Чем больше будет взаимодействия ИИ с другими инструментами, такими как аналитика данных, тем большей станет его роль в будущем.

Полное проникновение ИИ в различные сферы прогнозируется в течение ближайших 10 лет. Постепенно пользователи привыкают взаимодействовать с ИИ в своих повседневных задачах, таких как общение с техническими службами, управление услугами и получение информации.

Екатерина Смышляева уверена, что разработка нормативно-правовой базы для ИИ также будет способствовать ускорению внедрения ИИ.

Есть и коммерческая составляющая. Рынок насыщается предложениями, системы становятся доступными. Также нельзя исключать и объективную потребность в автоматизации процессов.