• Решение объединяет различные методы проверки ответов языковых моделей, позволяя разработчикам сравнивать их, комбинировать и выбирать наиболее подходящий вариант для конкретной задачи
  • Специалисты Центра практического искусственного интеллекта Сбербанка открыли доступ к к библиотеке SIRIN (Semantic Inconsistency Recognition and Inspection Nexus, "Обнаружение и анализ семантических несоответствий"), которая позволяет выявлять вымышленные и неподтвержденные исходными данными факты в ответах языковых моделей и ИИ-агентов. Об этом сообщили ТАСС в пресс -службе Сбера.
  • "Для повышения надежности работы моделей мы представили библиотеку SIRIN, которая анализирует обоснованность их ответов. Этот подход уже показал свою эффективность внутри компании в сервисах для работы с клиентами. Мы приняли решение открыть SIRIN для всех компаний, чтобы способствовать развитию рынка. Библиотека доступна всем желающим для использования в своих проектах"
  • Подчеркивается, что решение объединяет различные методы проверки ответов языковых моделей, позволяя разработчикам сравнивать их, комбинировать и выбирать наиболее подходящий вариант для конкретной задачи.
  • Инструмент, как отметили в пресс-службе, способен анализировать как ответ модели целиком, так и отдельные фрагменты текста, указывая участки, в которых могут содержаться ошибки или неподтвержденные сведения. Кроме того, SIRIN позволяет заранее оценить, достаточно ли у ИИ-агента информации для подготовки ответа. Такой подход дает возможность не только выявлять ошибки, но и предотвращать их, например, запрашивая дополнительные данные или отказываясь от формирования неподтвержденного ответа.