Китайский опыт контроля за искусственным интеллектом важен и для США
Игаль ЛЕВИН
Мэтт Шихан, старший научный сотрудник Фонда Карнеги за международный мир и эксперт по китайской политике в области искусственного интеллекта, недавно дал большое и любопытное интервью подкасту The Ezra Klein Show.
Традиционно подготовил выжимку самого интересного из этой публикации.
Китай уже несколько лет регулирует ИИ значительно жестче, чем США. Первые правила касались рекомендательных алгоритмов, распространения информации, дипфейков и генеративных моделей — то есть в основном были направлены на контроль контента.
Подписывайтесь на телеграм-канал журнала "ИсраГео"!
За это время государство успело построить развитую регуляторную инфраструктуру с регистрацией и проверкой моделей, техническими стандартами и взаимодействием регуляторов с разработчиками. Позже появились обязательная маркировка сгенерированного контента и проект отдельных правил для ИИ-компаньонов и чат-ботов, включая меры против эмоциональной зависимости пользователей.
В результате у Китая появился практический опыт регулирования быстро меняющейся технологии, которого, по мнению Шихана, заметно не хватает США. Китайские ведомства уже несколько лет вводят правила, оценивают их работу, разрабатывают технические стандарты и затем корректируют требования.
При этом регуляторы постоянно взаимодействуют с ИИ-лабораториями и постепенно накапливают техническую экспертизу. Это не означает, что Китай уже научился контролировать риски передовых моделей. По оценке Шихана, американские лаборатории пока значительно сильнее в исследованиях безопасности, однако Китаю, если такая необходимость возникнет, не придется создавать сам механизм регулирования с нуля.
Было бы преждевременно считать, что Пекин уже полностью принял американскую дискуссию об экзистенциальных рисках ИИ. Пока китайская политика значительно больше сосредоточена на практическом внедрении технологии в промышленность, робототехнику и другие отрасли, чем на рисках, связанных с возможным появлением сверхинтеллекта.
Тем не менее, за последний год-полтора терминология, связанная с сохранением человеческого контроля и потенциально опасными возможностями ИИ, все чаще появляется в официальных китайских документах.
Отсюда следует основная мысль Шихана о возможном взаимодействии США и Китая: им необязательно полностью доверять друг другу, вводить одинаковые ограничения или заключать масштабный международный договор.
Достаточно, чтобы обе стороны независимо пришли к выводу, что потеря контроля над достаточно мощной системой ИИ угрожает их собственным интересам. Тогда появляется основа для обмена информацией об опасных возможностях моделей, методах тестирования, киберрисках и защитных механизмах.
Односторонние ограничения в США действительно могут замедлить американских разработчиков, но одновременно способны стать для Пекина убедительным сигналом, что Вашингтон действительно считает определенные технологии опасными, а не использует безопасность исключительно как инструмент конкуренции.
Пока, по словам Шихана, из Китая ситуация выглядит несколько парадоксально. Американские политики много говорят о катастрофических рисках ИИ, однако федеральное регулирование в США остается значительно слабее китайского. Поэтому Пекину не всегда очевидно, насколько серьезно Вашингтон на самом деле относится к этим рискам (или и вовсе навязывает Китаю технологическую гонку, как когда-то навязал СССР, которую Союз в итоге не вывез — Игаль).
Через два месяца в Шэньчжэне должен пройти следующий раунд переговоров США и Китая по вопросам рисков, связанных с развитием ИИ. От их результатов во многом будет зависеть дальнейший подход обеих сверхдержав к регулированию и безопасности искусственного интеллекта.
Автор — военный обозреватель. Родился в Одессе, вырос в Израиле. Служил с 2005-го по 2010-й. Офицер ЦАХАЛа в запасе. Телеграм-канал: yigal_levin
