Южная Корея первой в мире ввела полноценное регулирование ИИ

Южная Корея стала первой страной в мире, где в полном объеме вступили в силу законы, регулирующие работу систем искусственного интеллекта. Новые правила предусматривают обязательную маркировку изображений и других материалов, созданных с помощью ИИ, а также обязательный контроль человеком за работой таких систем в критически важных сферах, сообщает BBC.

Власти страны заявляют, что цель регулирования — укрепить доверие общества к искусственному интеллекту и обеспечить безопасность его применения. В Министерстве науки и информационных технологий Южной Кореи охарактеризовали принятый пакет законов как «вторые в мире» по тематике ИИ.

Ранее, в июне 2024 года, Европейский парламент одобрил, как утверждается, «первые в мире правила в отношении ИИ». Однако, в отличие от Евросоюза, где регулирование будет вводиться поэтапно до 2027 года, южнокорейское законодательство начало действовать сразу в полном объеме.

Подходы к регулированию ИИ в мире остаются неоднозначными. США придерживаются более мягкой модели, опасаясь сдерживания инноваций. Китай, в свою очередь, уже ввел ряд норм и предложил создать международный орган по координации глобального регулирования.

Что предусматривают новые законы

Согласно южнокорейскому законодательству, компании обязаны обеспечить человеческий контроль над так называемым «высокоэффективным» ИИ, применяемым в таких сферах, как ядерная безопасность, производство питьевой воды, транспорт, здравоохранение и финансовые услуги, включая оценку кредитоспособности и проверку перед выдачей кредитов.

Кроме того, компании должны заранее уведомлять пользователей о продуктах и услугах, использующих высокоэффективный или генеративный ИИ, а также четко маркировать результаты его работы. Это правило распространяется в том числе на дипфейки, которые трудно отличить от реальных изображений и видео.

На первом этапе власти не планируют сразу наказывать нарушителей. Для бизнеса предусмотрен годовой льготный период, после которого начнут применяться административные штрафы. Так, за отсутствие маркировки генеративного ИИ предусмотрен штраф до 30 млн вон (около 20,4 тыс. долларов США).

При этом санкции в Южной Корее существенно мягче, чем в ЕС, где штрафы могут достигать от 1% до 7% глобального оборота компании в зависимости от тяжести нарушения.

Критика со стороны бизнеса

Многие представители южнокорейской технологической отрасли выразили недовольство новым регулированием. Соруководитель Startup Alliance Лим Чунг-вук отметил: «Существует некоторое недовольство — почему мы должны быть первыми, кто это делает?»

По оценке Startup Alliance, отдельные формулировки закона недостаточно конкретны, что может побудить компании выбирать менее инновационные, но более безопасные решения, чтобы снизить регуляторные риски.

Президент Южной Кореи Ли Чжэ Мён призвал учитывать опасения бизнеса и поддерживать стартапы и венчурные компании. «Важно максимально использовать потенциал отрасли с помощью институциональной поддержки, одновременно упреждая ожидаемые побочные эффекты», — сказал он.

Министерство науки и информационных технологий планирует создать временную консультационную платформу и специальный центр поддержки компаний. «Кроме того, мы продолжим рассматривать меры по минимизации нагрузки на отрасль», — заявил представитель министерства, добавив, что не исключается продление льготного периода.

Глобальные споры вокруг ИИ

Вопросы регулирования ИИ остаются предметом острых дискуссий во всем мире. В мае 2023 года группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind, заявила: «Искусственный интеллект может привести к исчезновению человечества», подчеркнув, что «снижение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом».

Ранее Илон Маск и сооснователь Apple Стив Возняк призывали приостановить развитие ИИ до появления надежных протоколов безопасности. При этом сегодня многие из подписантов этих обращений активно участвуют в развитии индустрии, стоимость которой оценивается в сотни миллиардов долларов.

В январе 2025 года президент США Дональд Трамп объявил о создании компании Stargate, которая планирует инвестировать 500 млрд долларов в развитие ИИ и инфраструктуры. А на международном саммите в Париже США и Великобритания отказались подписывать декларацию по искусственному интеллекту, поддержанную 60 странами.

Глава Alphabet Сундар Пичаи ранее предупреждал, что ажиотаж вокруг ИИ может иметь «иррациональные элементы», и существует риск формирования пузыря в отрасли.