ИИ и нейросети создают дополнительные риски утечек данных – мажилисмен

Депутаты мажилиса выразили обеспокоенность за безопасность данных в эпоху искусственного интеллекта, передает корреспондент BaigeNews.kz.

Мажилисмен Никита Шаталов отметил, что ИИ и нейросети требуют больших объемов информации, что создает дополнительные риски утечек. Он напомнил о компрометации персональных данных в 2023 году из-за утечки в чат-боте GPT и подчеркнул, что ежегодно в стране фиксируются утечки из государственных и частных баз данных.

"Нельзя сказать, что данные каждого казахстанца уже скомпрометированы, но если государство централизует доступ к озеру данных для разработчиков через национальную платформу, это может привести к дополнительным утечкам", - заявил Шаталов.

Депутат Екатерина Смышляева подтвердила актуальность проблемы. Она отметила, что проблема защиты данных касается не только первичной информации, но и синтетических данных, используемых в разработках ИИ.

"Недавний инцидент с DeepSeq и его негласной коллаборацией с GPT-подобными разработками говорит о том, что корпорации начинают состязаться за данные. Насколько они востребованы в связи с развитием искусственного интеллекта, можно посмотреть по неофициальным расценкам на массивы данных, которые продаются сегодня активно и в Даркнете. То есть их стоимость колоссально, в разы растет, особенно это касается, допустим, медицинских данных. И это прямая корреляция с теми отраслями, где ИИ сейчас пошел вверх и наиболее востребован", - пояснила Смышляева.

Она отметила, что в обсуждаемом законопроекте предусмотрены меры по защите конфиденциальности, обеспечению прозрачности данных, на которых обучается ИИ, а также регулирование интеллектуальной собственности. Члены рабочей группы изучают международный опыт лицензирования данных, применяемый в США и ЕС, а также прорабатывают механизмы анонимизации данных.

Первый вице-министр цифрового развития, инноваций и аэрокосмической промышленности Каныш Тулеушин в свою очередь отметил, что оператором национальной платформы ИИ является АО "Национальные информационные технологии", несущее ответственность за защиту и обработку данных.

"Данные могут быть чувствительные, закрытого контура и данные, которые в открытом доступе используются. Поэтому те системы искусственного интеллекта, которые будут разрабатываться на основе данных открытого контура, естественно, по ним определенный порядок более упрощенный, но по тем, где потребуется для определенных решений искусственного интеллекта данные более чувствительные, то, естественно, это будет в закрытом контуре на серверах с определенными требованиями информбезопасности", - подчеркнул Тулеушин.