ДИТ Москвы разработал бота, способного помочь в защите от кибермошенников

Департамент информационных технологий Москвы предлагает воспользоваться новым бесплатным сервисом, который поможет защититься от кибермошенников. Это телеграм‑бот, созданный для проверки текстовых и голосовых сообщений на наличие признаков мошенничества. Бот разработали в рамках информационного проекта «Перезвони сам». Об этом сообщила руководитель проекта «Перезвони сам» столичного Департамента информационных технологий Валентина Шилина.

«С развитием технологий приемы мошенников также становятся все более изощренными: они звонят от лица банков или официальных организаций, присылают заманчивые предложения о работе и выгодных распродажах, рассылают просьбы помочь со взломанных аккаунтов друзей и знакомых, а также применяют другие уловки. Мы создали бесплатный инструмент, который поможет проверить полученные сообщения. Телеграм‑бот анализирует присланные скриншоты переписки, текстовое или голосовое сообщение и помогает определить, есть ли в нем признаки мошенничества. Сервис работает с применением искусственного интеллекта, включая большие языковые модели и технологии оптического распознавания текста и речи», — рассказала Шилина.

Сервис функционирует в тестовом режиме до 27 февраля 2025 года. В этот период бот предоставляет предварительные результаты анализа сообщений, на которые пользователям рекомендуется обратить внимание. По завершении пилотного этапа специалисты доработают функционал на основе полученных отзывов и пожеланий. Ожидается, что весной 2025 года проект запустят в полном объёме.

Бот способен обрабатывать различные типы информации. Он анализирует текстовые сообщения и скриншоты переписки, выявляя признаки эмоционального давления, манипуляций, просьб о предоставлении персональных данных или переводе денег, а также подозрительные ссылки.

При анализе аудиофайлов бот оценивает вероятность мошенничества, опираясь на содержание сообщения или пересказ беседы. Кроме того, сервис проверяет, не использовалась ли синтезированная речь, что позволяет выявлять дипфейки.

По результатам обработки информации бот сообщает о проценте вероятности обмана и выделяет подозрительные сигналы, которые могут вызвать настороженность.

В основе работы бота лежат передовые технологии, такие как большие языковые модели (LLM) для анализа текстов и инструменты оптического распознавания символов для обработки изображений. Каждое аудиосообщение проходит двухэтапную проверку: сначала определяется наличие синтезированной речи, затем текстовая расшифровка анализируется с помощью LLM на предмет признаков мошенничества. Благодаря постоянному обучению и анализу данных, полученных от пользователей, нейросеть, используемая в боте, будет совершенствоваться, повышая точность распознавания обмана и расширяя базу знаний о мошеннических схемах.