OpenAI
ИИ-чатOpenAIбезопасность детейрегулирование ИИEU Kids Actисследования

OpenAI выделила $2 млн на исследования безопасности ИИ для детей

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·3 мин чтения
OpenAI выделила $2 млн на исследования безопасности ИИ для детей

OpenAI на этой неделе подписала на Парижском мирном форуме Charter of Engagement for Safer AI for Children и пообещала $2 млн научной сети при Coalition for Children's Rights and Protection in the Age of AI. Об этом компания сообщила 12 ноября.

На что пойдут деньги

Средства предназначены для так называемой общей измерительной работы. Речь о создании инструментов, которыми исследователи смогут оценивать риски и возможности ИИ для детей. Пока таких общепринятых методик нет: каждая команда меряет по-своему, и результаты трудно сравнивать. Общий набор инструментов должен это исправить и дать основу для решений и по продуктам, и по регулированию.

Конкретных проектов, команд и сроков в сообщении OpenAI нет. Сумму она называет вкладом в сеть, а не собственной программой.

Условия независимости

Самая содержательная часть хартии - гарантии для исследователей. По описанию OpenAI, команды сами контролируют свои выводы, а результаты публикуют все, включая отрицательные и неопределенные. Для области, где финансирует в том числе индустрия, это важное условие: частая претензия к таким работам в том, что неудобные результаты просто не выходят. Насколько хартия на практике защитит от этого, станет видно по первым публикациям.

Хартия также задает общие принципы безопасного ИИ, соответствующего возрасту, и описывает исследовательскую программу.

Позиция по регулированию

В тексте OpenAI напоминает, что ранее призывала к глобальным стандартам безопасности ИИ для молодежи и поддерживает комплексное законодательство на эту тему. По версии компании, такие нормы должны включать:

- защитные настройки, подходящие возрасту, по умолчанию; - инструменты для родителей; - регулярную оценку рисков и меры по их снижению; - реальную ответственность за нарушения.

При этом законы, по мысли OpenAI, не должны закрывать детям доступ к инструментам для учебы и творчества. Кроме того, компания заявила, что намерена работать с европейскими законодателями по мере развития EU Kids Act, а также с партнерами в других странах.

Как это читать

На наш взгляд, $2 млн для OpenAI - небольшая сумма, и значение шага скорее в формате: деньги идут в общую сеть, а не во внутреннюю лабораторию, плюс публичное обязательство публиковать любые результаты. Компании заинтересованы показать, что у отрасли есть проверяемая база данных, а не только собственные заверения.

Скептики могут заметить, что поддержка законов с "сильными и обязательными" мерами и добровольное финансирование исследований - выгодная позиция для компании, которая хочет участвовать в написании правил. Сторонники ответят, что без общих метрик любое регулирование будет работать вслепую. Обе точки зрения обоснованны, и оценить итог можно будет только по тому, какие инструменты измерения появятся и насколько открыто их опубликуют.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости