Высокопроизводительные системы искусственного интеллекта (ИИ) угрожают социальной стабильности, а ИИ-компании должны нести ответственность за вред, причинённый их продуктами – об этом заявила группа отраслевых экспертов, включая основоположников соответствующих технологий, лауреатов премии Тьюринга Йошуа Бенжио (Youshua Bengio) и Джеффри Хинтона (Geoffrey Hinton), пишет во вторник The Guardian.

«Пора уже задуматься по поводу передовых ИИ-систем, — заявил профессор компьютерных наук Стюарт Расселл (Stuart Russell) из Калифорнийского университета в Беркли. — Это не игрушки. Повышать возможности таких систем прежде, чем понять, как обезопасить их, в высшей степени безрассудно».

По словам эксперта, за магазинами по продаже бутербродов надзор жёстче, чем за ИИ-компаниями.

Специалисты призвали правительства принять ряд мер, включая:

• выделение третьей части всех правительственных средств, направленных на ИИ-исследования и разработки, а также трети всех денег компаний, зарезервированных на НИОКР, для обеспечения безопасного и этичного использования ИИ-систем;
• предоставление доступа независимым аудиторам в ИИ-лаборатории;
• введение системы выдачи лицензий на создание передовых [ИИ]-моделей;
• принятие ИИ-фирмами специальных мер безопасности на случай обнаружения опасных возможностей в их моделях;
• возложение ответственности на технологические компании за ущерб от их ИИ-систем, который можно было предвидеть и предотвратить.

Напомним, в мае группа ведущих инженеров, глав компаний и учёных опубликовали предупреждение об экзистенциальной угрозе технологий искусственного интеллекта (ИИ) для человечества.

См. также: Возняк и Маск призвали остановить обучение сверхпроизводительных ИИ-систем >>>