23 апреля состоялась экспертная сессия ВЦИОМ и Деловой России, посвященная критериям оценки ИИ-технологий и их эффективности внедрения для развития организаций.
В числе спикеров были генеральный директор INVENTORUS Евгений Елфимов и директор по работе с научно-технической информацией и аналитике Анатолий Антипов. В своих выступлениях они затронули вопрос достоверности данных при работе с большими языковыми моделями и на примере платформы INVENTORUS показали пути решения этой проблемы.
Фокусные точки:
— Рост возможностей генерации текстов на базе LLM приводит к тому, что не каждый генерируемый ИИ результат — достоверный
— Основная причина недостоверности или, как принято называть, «галлюцинаций» нейросетей — некачественные данные, полученные моделью, а не сам алгоритм её работы
— Полностью исключить ошибки при работе с ИИ возможно только в развитии гибридных подходов с «человеком в контуре», где возможна достоверная интерпретируемость ИИ-ответов и верификация источников
— Примером практической реализации подобного гибридного подхода является платформа INVENTORUS, совмещающая в себе методы OSINT, семантический и векторный поиск, RAG-подход и экспертную оценку
Очевидным выводом стал тезис о том, что рост эффективности ИИ невозможен без прозрачности, проверяемости и сотрудничества человека и машины.
В числе спикеров были генеральный директор INVENTORUS Евгений Елфимов и директор по работе с научно-технической информацией и аналитике Анатолий Антипов. В своих выступлениях они затронули вопрос достоверности данных при работе с большими языковыми моделями и на примере платформы INVENTORUS показали пути решения этой проблемы.
Фокусные точки:
— Рост возможностей генерации текстов на базе LLM приводит к тому, что не каждый генерируемый ИИ результат — достоверный
— Основная причина недостоверности или, как принято называть, «галлюцинаций» нейросетей — некачественные данные, полученные моделью, а не сам алгоритм её работы
— Полностью исключить ошибки при работе с ИИ возможно только в развитии гибридных подходов с «человеком в контуре», где возможна достоверная интерпретируемость ИИ-ответов и верификация источников
— Примером практической реализации подобного гибридного подхода является платформа INVENTORUS, совмещающая в себе методы OSINT, семантический и векторный поиск, RAG-подход и экспертную оценку
Очевидным выводом стал тезис о том, что рост эффективности ИИ невозможен без прозрачности, проверяемости и сотрудничества человека и машины.