Разработчики отечественного голосового помощника для управляющих компаний столкнулись с неожиданной проблемой: уже через месяц обучения нейросеть освоила русский матерный лексикон, переняв его у раздражённых жильцов.
Президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов на Сибирском строительном форуме поделился любопытным кейсом из практики внедрения голосовых роботов в сферу жилищно-коммунального хозяйства. Как оказалось, обучение нейросети оказалось неожиданно «богатым» на лингвистические открытия.
«Приведу забавный случай, — рассказал Викторов агентству ТАСС. — Это нейросеть, она учится, и буквально уже в первый месяц разработчики отметили такую коллизию, что нейросеть научилась мату. Но, как это говорится, с кем поведёшься, от того и наберёшься. Поэтому эту коллизию, конечно, пришлось устранять».
Инцидент стал яркой иллюстрацией того, с какими реалиями сталкиваются разработчики ИИ при работе с «живыми» данными. Нейросеть, обучаясь на диалогах с жильцами, неизбежно сталкивалась с эмоциональными обращениями, включая нецензурную лексику, и начала воспроизводить её в ответах. Это потребовало дополнительной донастройки модели с фильтрацией неприемлемых выражений и корректировкой поведенческих паттернов.
