Администрация Нью-Йорка отказалась прекращать работу городского чат-бота с искусственным интеллектом (ИИ) MyCity Chatbot, чьи советы предпринимателям шли вразрез с законодательством, сообщает в пятницу yahoo.com.

Сервис был запущен в октябре 2023. Его задача – предоставлять информацию в ответ на вопросы об открытии или ведении бизнеса в городе. Чат-бот использует службы ИИ-сервиса Microsoft.

Со временем предприниматели стали замечать, что MyCity Chatbot стал выдавать некорректные советы. Например, чат-бот заявил, что закон допускает увольнение работников из-за жалоб на домогательства, отказа сообщить работодателю о беременности или нежелания стричь дреды.

Напомним, ранее сообщалось о склонности сервисов генеративного ИИ выдумывать «факты». Так, при попытке пересказать новость один из сервисов указал неправильно имя и возраст жертвы, напутал с местом, где произошло событие, фальсифицировал цитату мэра Буэнос-Айреса, указал неверно имя мэра и пр.

См. также: Чат-боты выдают неверную информацию по запросам в 3-27% случаев — исследование >>>