Ассистент для продажи недвижимости: оптимизируем процессы с ChatGPT
Программный комитет ещё не принял решения по этому докладу
Целевая аудитория
Тезисы
1. Сначала примеры - кейсы Рафт с мультиагентными чат ботами на LLM
Первый - чат бот для продади недвижимости
2. Как задизайнить чат бота оптимально
Здесь на тех же примерах (они выше) обсудим как могла бы выглядеть архитектура без мультиагентности, какие фишки дала мультиагентность (скорость, экономия ресурсов )
3. Когда возникает мультиагентность
Общий вид кейса с мультиагентностью. В двух словах - если ты можешь разделить логику для LLM на подзадачи (от двух) и органищовать конвеер, то лучше использовать мультиагентность. Т.к обычный промптинг может быть грузным, неэффектиным и дорогим.
4. Какие есть подводные камни и как найти их заранее - не всегда можно разделить задачи на агентов, не стоит дробить таски слишком сильно - один агент может выполнять и несколько связанных задач.
5. Плюсы и минусы подхода. Из плюсов - скорость обработки, стоимость ресурсов openAI становится дешевле, простота скалирования и внесения изменений, можно параллелить выполнение задач в команде, промпт становится меньше - аттенш не теряется - мы получаем более хорошие ответы. Минусы - такой подход чуть дольше по разработке, требует изучения материала - не такой нативный как стандартный
6. А что если не ChatGPT
Работает ли подход с другими LLM. Да, например с Claude 3 и некоторыми другими api-based моделями
Data Scientist c опытом работы в разных областях: от анализа временных рядов и computer vision до больших дата-инженерных highload-проектов.
Также имеет солидный математический бэкграунд в области функционального анализа и операторных алгебр — научные статьи и выступления на конференциях.
На данный момент работает в компании Raft и занимается исследованиями и внедрением LLM-моделей в продакшн, о чем ей бы очень хотелось рассказать на этой конференции.
Raft
Видео
Другие доклады секции
ML и AI в производственных компаниях
