Лучшие бесплатные курсы по большим языковым моделям в 2024 году.

В последние годы искусственный интеллект и машинное обучение стали одними из самых актуальных и востребованных технологий. Одной из ключевых составляющих этих областей являются большие языковые модели, которые способны генерировать тексты, отвечать на вопросы и даже подражать человеческой речи. Однако, чтобы овладеть этими навыками, необходимо пройти обучение.

В этой статье мы рассмотрим лучшие бесплатные курсы по большим языковым моделям в 2024 году, которые помогут вам освоить эту увлекательную область и раскрыть свой потенциал в мире искусственного интеллекта.

Независимо от вашего уровня подготовки, эти курсы предложат вам все необходимые знания и навыки для успешного изучения больших языковых моделей и применения их в различных сферах. Приготовьтесь к захватывающему путешествию в мир искусственного интеллекта и откройте для себя новые возможности!

🔥 Наш Telegram канал о машинном обучении: https://t.me/+RlgPz8ihjxViOGEy

📌 Папка отборных каналов для Python разработчиков – https://t.me/addlist/8vDUwYRGujRmZjFi

1. LLM University

Хороший бесплатный курс от Cohere о том как работают эмбединги, механизм внимания , трансформеры, генерация текста и как всё это применять для реальных задач.

В курсе авторы также обсуждают промпт-инжиниринг и дают несколько примеров того как все это применять его к задачам вроде document QA, semantic search (w Langchain) и так далее.

Курс дает представление о том, как работают LLM, их практическом применении, и направляет учащихся на использование LLM для создания и развертывания собственных приложений.

Теоретическая часть курса изложена понятно, с использованием аналогий и примеров и наглядных иллюстраций, а практическая часть содержит примеры кода, которые помогут вам закрепить полученные знания. Курс регулярно обновляется.

Советую показывать этот курс студентам и джунам, изучающим мл.

https://docs.cohere.com/docs/llmu

2. Huggingface  NLP course

В этом курсе вы сможете узнать об обработке естественного языка с помощью библиотек из экосистемы Hugging Face. Трансформеры, работа с датасетами, токенизаторы, большие языковые модели. Курс совершенно бесплатный и не содержит никакой рекламы.

Главы с 1 по 4 знакомят с основными концепциями библиотеки Transformers. К концу первой части курса вы будете знать, как работают модели-трансформеры и сможете использовать модель из Hugging Face Hub, доработать ее на собственном датасете и поделиться своими результатами на Hub.
В главах с 5 по 8 вы узнаете об основах работы с датасетами HF и токенизаторами, а затем решите классические задачи НЛП. К концу этой части вы сможете самостоятельно решать самые распространенные проблемы НЛП.
Главы с 9 по 12 выходят за рамки НЛП и рассказывают о том, как модели Transformer можно использовать для решения задач в области обработки речи и компьютерного зрения. Попутно вы узнаете, как создавать демонстрационные версии своих моделей и делиться ими, а также оптимизировать их для использования в производственных средах. К концу этой части вы будете готовы применять библиотеки для решения (почти) любой задачи машинного обучения!

Здесь можно посмотреть видео о курсе.

https://huggingface.co/learn/nlp-course/chapter1/1

3. DeepLearningAI

Компания LangChain не так давно выпустила курс о последних достижениях в области LLM и о создания диалоговых агентов.

В курсе особое внимание уделено введению в синтаксиса – LangChain Expression Language (LCEL), который позволяет настраивать поведение агентов.

Участники курса учатся генерировать структурированный вывод с помощью вызова функций, использовать LCEL для настройки обработки запросов, применять вызовы функций для тегирования данных и понимать маршрутизацию запросов с помощью инструментов LangChain.

Пhодолжительность курса составляет 1-2 часа, и он доступен бесплатно.

Рекомендуется иметь базовое знание Python и опыт написания промптов для языковых моделей.

Прохождение этого курса предоставляет хорошую возможность изучить новейшие инструменты для создания диалоговых агентов на основе искусственного интеллекта и улучшить свои навыки в этой области!

https://www.deeplearning.ai/short-courses/functions-tools-agents-langchain/

А здесь вы можете найти всю коллекцию бесплатных курсов от Deeplearning.ai, созданных в сотрудничестве со многими компаниями, такими как LangChain, OpenAI, Google, Weights & Biases, Microsoft и другими.

https://www.deeplearning.ai/short-courses/

4. Weights_biases course

Этот курс показывает, как создавать приложения на базе LLM, используя API, Langchain и W&B Prompts. В нем рассказывается про разработку, тестирование и проведение экспериментов и создание приложений на основе на LLM.

Для прохождения курсы нужен опыт работы на Python, но знание алгоритмов машинного обучения не требуются

https://www.wandb.courses/courses/building-llm-powered-apps

5. Сразу пять бесплатных курсов от Google которые научат вас создавать ИИ и работать с LLM.

Все курсы объясняются доступным языком и знакомят вас с понятием «генеративные модели». Эти курсы дают полное представление о том, как LLM модели обучаются и как создавать их самостоятельно.

После того, как пройдете этот курс, можно будет рассказывать на вечеринке, что учились создавать ChatGPT в Google.

https://www.cloudskillsboost.google/paths/118

6. Databricks курсы

На edX в этом году появились 2 курса от Databricks:

Databricks: Large Language Models: Application through Production

Этот курс предназначен для разработчиков, специалистов по исследованию данных и инженеров, которые хотят создавать приложения, на основе LLM, с помощью самых современных и популярных фреймворков. К концу курса вы напишите свой LLM-проект, отличный вариант попрактиковаться. Курс расчитан на 6 недель, по 4-10 часов в неделю.

Databricks: Large Language Models: Foundation Models from the Ground Up

Вы узнаете о том, что привело к распространению моделей на основе трансформеров включая BERT, GPT и T5, и о невероятных прорывах и технологиях LLM, которые привели к появлению таких приложений, как ChatGPT. Кроме того, вы получите представление о последних достижениях в разаработке, которые продолжают улучшать LLM, например Flash Attention, LoRa, AliBi и PEFT.

7. Курс “LangChain & Vector Databases in Production” от activeloopai, towards_AI и Intel

Серия из трех курсов познакомит слушателей со знаниями и навыками для обучения, тонкой настройки и интеграции LLM в продакшен.

https://learn.activeloop.ai/courses/langchain

8. LLM Bootcamp

Охватывает такие темы, как Prompt Engineering, LLMOps, UX для языковых пользовательских интерфейсов, дополненные языковые модели, быстрая разработка LLM-приложений, будущие тенденции в LLM, фундаментальные концепции и прохождение askFSDL.

https://fullstackdeeplearning.com/llm-bootcamp/

9. Новый беспланый курс по Reinforcement Learning from Human Feedback! 

RLHF – это одна из ключевых техник, которая привела к появлению современных LLM. 

В этом курсе, который ведет Никита Намджоши, разработчик из GenAI в 

Google cloud, вы узнаете, как работает RLHF, в том числе как применить его для настройки LLM в собственных приложениях.

Вы также воспользуетесь библиотекой с открытым исходным кодом для настройки базового LLM  и оцените настроенную модель, сравнив ее ответы до и после RLHF-настройки.

deeplearning.ai/short-courses/reinforcement-learning-from-human-feedback/

10. Large Language Model Course

Вышла вторая версия популярного бесплатного LLM курса.

Это пошаговое руководство с курируемыми ресурсами, разделенное на три части: основы LLM, наука больших языковых моделей и инженерия (W.I.P.).

Идеально подходит как для новичков, так и для экспертов в области ML.

GitHub: https://github.com/mlabonne/llm-course

Курс: https://mlabonne.github.io/blog/

11. Building and Evaluating Advanced RAG Applications

Бесплатный курс от deeplearning.ai по сложным техникам RAG (Retrieval Augmented Generation).🦾

В этом курсе преподаются продвинутые техники работы с LLM, которые помогут вам генерировать хорошие и релевантные ответы и.

deeplearning.ai/short-courses/building-evaluating-advanced-rag/

12. Development with Large Language Models Tutorial – OpenAI, Langchain, Agents, Chroma

Большие языковые модели (например, ChatGPT) могут помочь вам в решении многих задач.

Например, создание динамических пользовательских интерфейсов, навигация по тоннам текстовых данных и многое другое.

В этом курсе вы узнаете об основах и о том, как использовать LLM в своих проектах.

• Видео

• Colab notebook

13. Stanford CS25: бесплатный курс по Трансформерам от Стэнфорда

На Stanford CS 25 “Transformers United” выступали такие звездные гости, как Андрей Карпаты, Ноам Браун, Лукас Бейер и сам Джефф Хинтон! В рамках этого курса вы изучите основные концепции и принципы работы трансформеров, а также научитесь применять их для решения различных практических задач. Курс будет включать в себя как лекции, так и практические занятия, в ходе которых студенты будут иметь возможность самостоятельно применять полученные знания.

Курс: https://web.stanford.edu/class/cs25/

➡️ Лекции Видео: https://www.youtube.com/playlist?list=PLoROMvodv4rNiJRchCzutFw5ItR_Z27CM