Is This the End of RAG? Anthropic's NEW Prompt Caching
Prompt Engineering. Проходит prompt caching от Anthropic против context caching от Gemini с конкретными сокращениями латентности и стоимости по сценариям (long-document чат, few-shot, multi-turn). Разбивка надбавки за запись в кеш против скидки за чтение из кеша — ровно то, что предполагает статья, говоря, когда кеширование окупается.
Что вынести из этого видео
Оценить архитектурный подход, возможные сбои и защитные меры до разработки.
Смотреть дальше
Продолжайте тот же учебный путь со следующими связанными видео.
32 минFast LLM Serving with vLLM and PagedAttention
Оценить архитектурный подход, возможные сбои и защитные меры до разработки.
Смотреть дальше
42 минVertical AI Agents Could Be 10X Bigger Than SaaS
Оценить архитектурный подход, возможные сбои и защитные меры до разработки.
Смотреть дальше
48 минКак строить надёжных AI-агентов: контекст и evals
Проектировать рабочие процессы с ИИ вокруг контекста, оценок качества и наблюдаемости, чтобы сбои в продакшене можно было назвать, измерить и исправить.
Смотреть дальшеПохожие видео
4 минIntroducing EmbeddingGemma: The Best-in-Class Open Model for On-Device Embeddings
32 минHow to Build Human-Centered AI Workflows in Localization with Shashi Bhushan
59 минОт хайпа к привычке: как технологические компании масштабируют ИИ дальше экспериментов
41 минPrivate AI против cloud: как лидерам принимать более умные build-or-buy решения
Углубиться
Тщательно подобранные внешние курсы, которые глубже раскрывают эту тему.
Coursera · DeepLearning.AIAI for Everyone
Шесть лет спустя — самая чистая точка входа для тех, кому нужно разобраться в ИИ без программирования. Без математики, без жаргона, без хайпа — после прохождения вы сможете вести осознанные разговоры о проектах с ИИ.
Coursera · The Wharton SchoolAI Strategy and Governance
Сильная рамка Wharton для руководителей, принимающих решения «строить или покупать». Курс не продаёт инструменты, а фокусируется на экономике внедрения ИИ, алгоритмической предвзятости, доверии к данным и практиках управления, которые выдерживают аудит.