Профильные комитеты Европарламента 11 мая 2023 одобрили проект закона о регулировании ИИ, важнейшие правки в которой вносились в последний момент. Попытки ограничить область применения ИИ были еще в апреле 2021 года. С принятием закона однако не торопились, стремясь соблюсти все процедуры и провести ряд исследований.
И вот в начале 2023 года появляется ChatGPT. Он может создать бизнес-модель, провести финансовый анализ, дать совет или просто поддержать разговор. А может написать картину или стихотворение или сгенерировать изображение медийной личности. Дошло до того, что 2 немецких депутата выступили в зале Европейского парламента с речью, написанной ChatGPT. Таким образом парламентарии хотели подчеркнуть необходимость обуздания технологии.
Итак, основная суть закона состоит в том, что все системы ИИ предлагают разделять по группам риска: минимальный, ограниченный, высокий и неприемлемый.
Большинство инструментов должно попадать под категорию с минимальным риском — это игры и спам-фильтры. Системы с ограниченным риском (вероятно, ChatGPT попадет именно в эту группу) должны будут соблюдать требования о прозрачности — в первую очередь пользователь должен понимать, что, например, изображение полностью сгенерировано нейросетью (помните Папу Римского в модном пуховике?) Впрочем, недавнее расследование, проведенное активистами Corporate Europe Observatory показало, что гиганты вроде Google и Microsoft активно лоббировали европейский политиков за выведение таких технологий, как ChatGPT, из категорий ИИ с высоким риском.
Системы, используемые в судебной системе (оценка доказательств), здравоохранение (онлайн-диагностика), транспортная система (все виды беспилотников), образование (ИИ решает, кто поступит), трудоустройство (отбор резюме), контроль за миграцией и госуслуги — попадают в категорию высокого риска. Их ждёт самая тщательная проверка.
Системы, которые посчитают «неприемлемыми», просто запретят. В первую очередь это касается ИИ для выставления «социального рейтинга». Такая практика с 2021 года существует в Китае. Каждому гражданину начисляется 1000 начальных баллов, далее они прибавляются и убывает в зависимости от поведения человека. Если рейтинг ниже среднего, то гражданин сильно ограничен в правах — вплоть до того, что невозможно купить билет на поезд. Граждане с рейтингом выше среднего получают бонусы — скидки и кредиты с пониженной ставкой.
Под запрет скорее всего попадут системы предиктивной аналитики — они помогают спрогнозировать, кто, где и когда совершит преступление.
Критики таких технологий считают, что их алгоритмы неочевидны и рано или поздно ИИ научится предвзятости к опреленнвм группам людей.
Системы распознавания лиц также попадут в группу с высоким риском. Их применение допустимо только для поиска жертвы преступления, предотвращения террактов или поиска подозреваемого в уголовном преступлении. Однако полиции потребуется разрешение суда, а также указание сроков и географии поиска.
Правоохранительным органам, пограничникам и работодателям будет запрещено использование систем распознавания эмоций.
Под запретом также окажутся ИИ системы, разделяющие людей на основе расовой принадлежности, полу, гражданству, политическим и религиозным взглядам.
За нарушение компаниям грозят очень крупные штрафы — до 40 миллионов евро или 7% от общего годового оборота.
Закону еще предстоит пройти через голосование в Европарламенте, переговоры в Совете Евросоюза и принятие итогов версии.
Забавно, что ChatGPT на вопрос журналистов издания Político о регулировании ИИ написал следующее: «ЕС должен рассмотреть возможность обозначения генеративного ИИ и больших языковых моделей как технологий с «высоким риском», учитывая их потенциал для создания вредоносного и вводящего в заблуждение контента».