Губернатор Калифорнии заблокировал закон о регулировании ИИ

Гэвин Ньюсом наложил вето на закон о предотвращении катастроф, вызванных искусственным интеллектом, который был принят в заксобрании Калифорнии. По его словам, закон не обеспечивает реальную безопасность использования ИИ, а лишь создает ее видимость.

Законодатели возложили полную ответственность за безопасность на разработчиков ИИ, предусмотрев тестирование, оценку рисков, аварийную остановку моделей и многомиллионные штрафы. Однако законопроект был пересмотрен и теперь распространяется только на модели ИИ с стоимостью использования от 100 миллионов долларов и мощностью для обучения не менее 10^26 флопс.

Ньюсом выразил недовольство тем, что закон считает опасными только дорогие и мощные ИИ, игнорируя маломощные модели, которые могут быть опасны в высокорисковых сферах или при работе с конфиденциальными данными. Губернатор признал необходимость регуляции, но подчеркнул, что критерии должны основываться на опыте и анализе рисков.

Разработчики ИИ также выступают против проекта, считая, что ограничения могут снизить потенциал для создания более мощных ИИ. Ожидается, что закон может вернуться в новой редакции с более гибкой системой оценки опасности ИИ, что станет важным шагом в регулировании отрасли.