офлайн

From Hype to Reality: Building & Scaling Practical LLM Solutions

Коли:

29 лютого, 17:00

Дедлайн реєстрації:

28 лютого

Формат:

офлайн мітап у Києві

Вартість:

донат від 500 грн

 pc

Мета:

Популярність LLM набирає оберти та змінює все — від маркетингу до охорони здоров’я.

Та не chatGPT єдиним, тож давайте зануримося в суть створення та масштабування рішень на основі LLM на нашому мітапі. Експерти поділяться власними кейсами та стратегіями, як отримати реальні результати від роботи з великими мовними моделями.

Для кого:

  • AI/ML-спеціаліст(к)и, з 3+ роками досвіду роботи з AI/ML-моделями <пов'язаними з NLP-задачами>
  • Software Engineers/Architects, які хочуть зрозуміти інтеграцію LLMs на практиці
  • Data Scientists/Analysts, зацікавлені в тому, щоб зрозуміти, як дані взаємодіють із LLMs

Щоб взяти участь потрібно:

  • Зареєструватися
  • Отримати підтвердження на пошті та відправити донат за лінком, що там вказаний
  • Взяти ноут чи блокнот, куди будете записувати багато важливих інсайтів

Що отримаєте:

  • Обмін знаннями та розбір реальних кейсів
  • Нетворкінг та спілкування з AI/ML-експерт(к)ами, які цікавляться роботою з LLM
  • Обговорення ключових трендів та челенджів сфери
  • Більш широке розуміння комерційного потенціалу LLMs
  • Розуміння топ-методів для вирішення проблем LLM-систем
  • Можливість ставити питання спікерам та отримувати відповіді

Лектори:

Мар'яна Романишин
Мар'яна Романишин

Комп'ютерна лінгвістка, Area Tech Lead у Grammarly

  • Мар’яна має професійний досвід у сфері опрацювання природної мови — від розробки низькорівневих інструментів, як-от синтаксичні аналізатори, до систем сентимент-аналізу та добування фактів.
  • Останні дев’ять років Мар’яна працює технічною керівницею команди комп’ютерних лінгвістів у Grammarly, де вони розробляють алгоритми виправлення помилок і покращення тексту. Мар’яну цікавить просування комп’ютерної лінгвістики в Україні та розробка інструментів для опрацювання української мови, зокрема для цього вона співорганізовує воркшоп Ukrainian NLP.
  • За покликанням Мар’яна освітянка, тож із задоволенням проводить літні школи, викладає на курсах із опрацювання природної мови та керує дипломними роботами. Їй подобається досліджувати можливості і межі великих мовних моделей, але основним захопленням залишається структурна лінгвістика як метод формалізації природної мови.
Роман Кислий
Роман Кислий

Applied Data Scientist, ведучий AI HOUSE Podcast

  • Роман — Data Scientist із 6-річним досвідом роботи в різних сферах, переважно NLP.
  • Викладає у КПІ.
  • Може допомогти з NLP, LLM, parsing та збором даних.
Ілля Стрельников
Ілля Стрельников

Data Scientist у YouScan

  • має 4 years досвіду роботи в YouScan, працює переважно в NLP.
  • має 2+ роки досвіду роботи в QuantuMobile, де працював за напрямками NLP/CV/General ML.
  • 1 рік працював в GalacticExchange <тепер Skale>.

Програма

17:00 — 17:30
Реєстрація та нетворкінг

17:30 — 18:30
Тема: «Як створювати підтримувані рішення на основі запитів до великих мовних моделей»
Створювати продукт на основі запиту до великої мовної моделі навчився вже навіть лінивий. Але що як у вашому продукті не один такий запит (чи промпт), а сотня? Постає питання, як це все підтримувати. На цій зустрічі ми заглибимося в деталі побудови рішень на основі запитів. Ми обговоримо шаблони для запитів, оцінювання запитів, покращення запитів та інші практики, які часто не враховують під час розробки, але які можуть забезпечити стабільність і підтримуваність вашої системи. З презентації ви отримаєте навички та знання, щоб перетворити непросте завдання на організований, керований процес.

Мар'яна Романишин

18:30 — 19:10
Тема: «Створення та розвиток Insights Copilot »
Під час цієї доповіді ви дізнаєтеся як виник Insights Copilot — перший ШІ-помічник з Social Media Listening на базі ChatGPT. Розберемо основні проблеми, що виникали під час його розробки та методи їх вирішення. Розповідь буде не лише технічна, але і трохи продуктова, щоб ви дізналися не тільки як використовували ті, чи інші рішення але і чому.

Ілля Стрельников

19:10 — 19:20
Перерва

19:20 — 20:00
Тема: «Створення й оцінка LLM агентів <з використанням ReAct>»
Усі знають, як створювати RAG-застосунки. Але використання агентів LLM може значно збільшити користь від застосунків з LLM. Цей семінар покаже вам, як розробляти, оцінювати та удосконалювати агентів LLM, використовуючи ReAct (Reasoning and Acting). На цьому семінарі ви дізнаєтесь: що таке агент, що таке ReAct; як створювати LLM агентів (з LamaIndex); як оцінити вашого агента LLM за допомогою інструментів спостереження за LLM, таких як MLFlow; як ітеративно працювати над створенням ефективного додатку, який можна відправити в прод та що робити, коли агент фейлиться.

Роман Кислий

20:00 — 21:00
Коктейлі та нетворкінг

FAQ: