Крупные американские компании-разработчики продуктов на основе технологий искусственного интеллекта (ИИ) обязались, подписав добровольные соглашения с администрацией президента, предотвращать использование своих ИИ-систем для создания контента, содержащего сцены сексуального насилия, сообщает FCW, сообщает FCW.

Различные документы на эту тему подписали Adobe, Anthropic, Cohere, Common Crawl, Microsoft и OpenAI. Среди обязательств – ответственное использование баз данных для обучения ИИ-моделей, исключение явно противозаконного контента из таких баз данных, внедрение системы обратной связи и стресс-тестирования для исключения возможности для ИИ-систем обучаться недопустимым «сценариям».

К ИИ-разработчикам присоединились также платёжные системы (Cash App и Square), пообещавшие мониторить и пресекать платежи, связанные с производством или публикацией искусственно сгенерированных фото и видео со сценами сексуального насилия.

Google дополнительно согласился скорректировать поисковую выдачу для противодействия распространению таких изображений. Microsoft, GitHub и Meta (признана в России экстремистской организацией) каждая по отдельности обязались удалять подобные материалы со своих площадок, а также усилить свои внутренние системы оповещения о нарушениях правил.

В свою очередь гражданские сообщества пообещали помогать частному и госсектору следить за исполнением компаниями взятых на себя обязательств. Среди них – Центр демократии и проблем информационных технологий (Center for Democracy and Technology), Инициатива по правам граждан в киберпространстве (Cyber Civil Rights Initiative) и Национальная сеть по прекращению домашнего насилия (National Network to End Domestic Violence).

Напомним, в июне 2023 администрация американского президента разработала свод добровольных обязательств в области искусственного интеллекта, которые было предложено взять на себя IT-компаниям. Обязательство исполнять эти правила сразу подтвердили Google, OpenAI и Microsoft, а затем и ряд других американских компаний.

В мае 2024 правительство также призвало технологические компании к борьбе с создаваемыми ИИ изображениями, связанными с сексуальной эксплуатацией. Принятие новых обязательств в Белом доме называют «шагом вперёд для индустрии в деле снижения риска того, что ИИ-инструменты станут создавать оскорбительные образы».

См. также:

• Ветераны ИИ-отрасли призвали возложить ответственность за вред от ИИ-продуктов на их разработчиков >>> 
• Ведущие IT-компании создали отраслевую организацию для контроля развития ИИ-технологий >>>