Cloud Next 24 开发者 Keynote

Year: 2024 · ▶ 在 YouTube 观看

Richard Seroter (Chief Evangelist) · Chloe Condon (Chief Developer Relations Engineer) · Brad Calder (GM & VP) · Jason Davenport (Developer Advocate) · Femi Akinde (Product Manager) · Guillermo Rauch (CEO) · Kaslin Fields (Developer Advocate) · Josh Long (Spring Developer Advocate) · Chen Goldberg (VP & GM, Cloud Runtimes) · Steve McGhee (Reliability Advocate) · Charity Majors (Co-Founder & CTO) · Philipp Schmid (Engineering Manager)

Switch language → en

话题段落 (11)

  • 00:00:08 · 介绍与欢迎 — Richard Seroter & Chloe Condon
    • 主持人欢迎观众参加开发者主题演讲，并介绍了 Gemini 如何改变开发者体验。
  • 00:01:28 · Gemini 1.5 Pro 演示：分析去年的主题演讲 — Richard Seroter & Chloe Condon
    • 通过分析 2023 年开发者主题演讲的视频来提取见解，展示 Gemini 1.5 Pro 的多模态能力。
  • 00:03:32 · 使用 Gemini Code Assist 优化编码 — Brad Calder
    • 介绍 Gemini for Google Cloud，重点介绍 Gemini Code Assist 及其用于大规模代码任务的 100 万 token 上下文窗口。
  • 00:05:06 · 使用 Gemini Cloud Assist 优化运维 — Brad Calder & Jason Davenport
    • 现场演示如何使用 Gemini Cloud Assist 在 Google Cloud Console 中通过分析警报和日志来排查生产问题。
  • 01:12:08 · 在 BigQuery 中使用 Gemini 优化数据处理 — Brad Calder & Jason Davenport
    • 演示如何使用 BigQuery 中的 Gemini 和连续查询来构建实时分析应用程序，以分析社交媒体趋势。
  • 01:18:18 · 使用 Gemini 构建：创建生成式 UI 应用 — Chloe Condon, Femi Akinde, & Guillermo Rauch
    • 逐步演示如何构建一个由 AI 驱动的旅行推荐应用，从 Google AI Studio 中的想法到使用生成式 UI 的完整 Next.js 应用程序。
  • 01:28:27 · 使用 Gemini 运行：生产级 AI 应用 — Richard Seroter, Kaslin Fields, & Josh Long
    • 讨论并演示如何使用 GKE、用于 RAG 的 AlloyDB，以及使用 Spring Boot 和 Spring AI 构建快速、可扩展的 API 来大规模运行 GenAI 应用程序。
  • 01:41:42 · 使用 Gemini 优化平台 — Richard Seroter & Chen Goldberg
    • Chen Goldberg 展示了 Gemini Cloud Assist 如何简化在 Cloud Run 和 GKE 上创建和管理复杂应用程序架构的过程。
  • 01:49:26 · 使用 Gemini 运维：AI 在可观测性中的应用 — Chloe Condon, Steve McGhee, & Charity Majors
    • 专家们讨论并演示了如何使用 Vertex AI 进行提示管理和使用 Honeycomb 进行可观测性，来运维和调试 GenAI 应用程序。
  • 02:01:11 · 合作伙伴展示：Hugging Face 集成 — Richard Seroter & Philipp Schmid
    • 演示 Hugging Face 和 Google Cloud 之间的深度集成，允许轻松训练模型并一键部署到 Vertex AI 和 GKE。
  • 02:03:50 · 结束与要点总结 — Richard Seroter, Chloe Condon, & Jason Davenport
    • 主持人使用 Gemini 1.5 Pro 实时分析本次主题演讲本身，总结了演讲的主要主题。

产品发布 (6)

  • 00:02:29 · Gemini 1.5 Pro (Generally Available)
    • 100 万 token 上下文窗口 · 多模态能力（视频、音频、文本、代码） · 长上下文推理
    • 在 Vertex AI 中可用
  • 00:04:14 · Gemini Code Assist (Updated)
    • 集成 100 万 token 上下文窗口 · 全面的代码审查 · 大规模代码库理解，用于添加功能和升级
    • 可用
  • 00:05:08 · Gemini Cloud Assist (New, Private Preview)
    • 贯穿整个应用生命周期的 AI 辅助 · 具备上下文感知能力的故障排查和优化 · 用于管理云资源的自然语言界面
    • 私密预览
  • 01:12:08 · Gemini in BigQuery (New Features)
    • 用于实时分析的连续查询 · 多模态数据分析 · 自然语言生成 SQL
    • 可用
  • 01:45:45 · Ray on GKE (New Support)
    • 通过单个复选框简化部署 · Ray 框架的托管服务 · 在 GKE 上实现分布式 AI/ML 训练和服务
    • 可用
  • 01:51:14 · Vertex AI Prompt Management & Evaluation (New Features)
    • 并排提示比较 · 使用 ROUGE 和 BLEU 分数进行基准评估 · 提示的版本控制和历史记录
    • 可用

Benchmark 数字 (1)

  • 02:29:58 · AlloyDB Performance: 快 4 倍
    • 标准 PostgreSQL

演示 (9)

  • 00:01:28 ✓ · Gemini 1.5 Pro 视频分析 — Chloe Condon
    • 在 Google AI Studio 中使用 Gemini 1.5 Pro 分析前一年 75 分钟的主题演讲视频，并回答有关其内容的具体问题。
  • 00:06:05 ✓ · Gemini Cloud Assist 故障排查 — Jason Davenport
    • 在 Google Cloud Console 中使用 Gemini 侧边栏，通过询问有关警报、日志和防火墙规则的自然语言问题，来确定应用程序错误的根本原因。
  • 01:12:08 ✓ · BigQuery 中的 Gemini 实时分析 — Jason Davenport
    • 构建一个实时数据管道来分析社交媒体帖子。它使用 Gemini 生成用于情感和主题提取的 SQL，然后启用连续查询将结果流式传输到 Pub/Sub。
  • 01:19:19 ✓ · 使用 Next.js 和 Vercel AI SDK 实现生成式 UI — Guillermo Rauch
    • 构建一个交互式旅行预订聊天机器人，该机器人使用 Gemini 和 Vercel AI SDK 直接在聊天界面中渲染 React 组件（如航班列表和座位选择器），而不仅仅是文本。
  • 02:32:45 ✓ · 使用 Spring Boot 构建 GenAI API — Josh Long
    • 使用 Spring Initializr、Spring AI 和 GraalVM 快速创建一个生产就绪、支持 AI 的 Java API，以构建一个即时启动并执行基于 RAG 的产品推荐的本地镜像。
  • 02:42:38 ✓ · Cloud Run Application Canvas — Chen Goldberg
    • 在 Cloud Run 中使用一个新的可视化画布，用自然语言描述所需的应用程序架构（例如，“带数据库的 Web 应用”），然后 Gemini Cloud Assist 会将其绘制成图并进行配置。
  • 02:55:19 ✓ · 使用 Honeycomb 实现可观测性 — Charity Majors
    • 使用 Honeycomb 的 Query Assistant（由 Gemini 提供支持）通过询问自然语言问题来调试 GenAI 应用程序，以识别 RAG 管道中的延迟问题和错误根源。
  • 03:01:46 ✓ · 从 Hugging Face 部署到 Google Cloud — Philipp Schmid
    • 演示从 Hugging Face Model Hub 一键“部署到 Google Cloud”的功能，将 Gemma 模型直接部署到 Vertex AI 端点。
  • 03:04:28 ✓ · 主题演讲自我分析 — Jason Davenport
    • 作为结束环节，将本次主题演讲的视频本身输入到 Gemini 1.5 Pro 中，以生成演示文稿中关键产品和要点的摘要。

金句 (3)

  • 02:53:41 — Steve McGhee:

    Original (EN): May all your incidents be novel. 愿你所有的故障都是全新的。

  • 03:05:27 — Richard Seroter:

    Original (EN): From coding, to running platforms, to operations, software is simply better with Gemini. 从编码、到运行平台、再到运维，有了 Gemini，软件就是会变得更好。

  • 02:24:18 — Guillermo Rauch:

    Original (EN): We believe this is the future, and we call this Generative UI. 我们相信这就是未来，我们称之为生成式 UI。

视觉信号

On-screen (14)

  • 00:00:04 · 标题卡：开发者主题演讲
    • 设定活动的主题和标题。
  • 00:00:40 · 徽标：Google Cloud Next
    • 为活动打上品牌烙印。
  • 00:01:15 · 明信片图形：来自 LEGACY LAND '23 的问候
    • 视觉上回顾了前一年主题演讲的主题，为对比做铺垫。
  • 00:02:29 · 幻灯片：Gemini 1.5 Pro，100 万 token
    • 突出了所演示模型的关键能力。
  • 00:03:09 · 幻灯片：Gemini for Google Cloud - 优化编码，优化平台，优化运维
    • 概述了主题演讲叙事的三个核心支柱。
  • 00:04:15 · 幻灯片：Gemini Code Assist - 开发应用的 AI 辅助
    • 介绍第一个主要产品焦点。
  • 00:05:09 · 幻灯片：Gemini Cloud Assist - 贯穿应用生命周期的 AI 辅助
    • 介绍第二个主要产品焦点。
  • 01:14:34 · 幻灯片：BigQuery 中的 Gemini
    • 介绍数据分析部分。
  • 01:18:24 · 幻灯片：构建、运行、运维
    • 一个过渡幻灯片，强化了主题演讲的结构。
  • 01:18:30 · 幻灯片：使用 Gemini 构建
    • 主题演讲“构建”部分的标题卡。
  • 02:28:25 · 幻灯片：使用 Gemini 运行
    • 主题演讲“运行”部分的标题卡。
  • 02:49:14 · 幻灯片：使用 Gemini 运维
    • 主题演讲“运维”部分的标题卡。
  • 02:53:45 · 引言幻灯片：‘愿你所有的故障都是全新的’ - SRE 谚语
    • 运维界的一句名言，为下一个主题做铺垫。
  • 03:01:39 · 合作伙伴徽标：Google Cloud | Hugging Face
    • 直观地展示了正在讨论的合作伙伴关系。

Stage (9)

  • 00:00:14 · 主持人 Richard Seroter 和 Chloe Condon 从观众席走向舞台。
  • 00:03:42 · Google Cloud 总经理兼副总裁 Brad Calder 走上舞台。
  • 00:05:58 · 开发者倡导者 Jason Davenport 出现在舞台上的演示区。
  • 01:18:42 · 产品经理 Femi Akinde 走上舞台，在演示区与 Chloe Condon 会合。
  • 02:02:01 · Vercel 首席执行官 Guillermo Rauch 走上舞台。
  • 02:48:49 · 开发者倡导者 Kaslin Fields 走上舞台。
  • 02:52:22 · Spring 开发者倡导者 Josh Long 走上舞台。
  • 02:53:50 · honeycomb.io 联合创始人兼首席技术官 Charity Majors 走上舞台。
  • 03:01:29 · Hugging Face 工程经理 Philipp Schmid 走上舞台。

Visual demos (8)

  • 00:02:09 · Google AI Studio 用户界面
    • 展示了一个包含多个视频分析任务的提示，以及对 2023 年主题演讲视频进行分析后生成的 markdown 格式结果。
  • 00:06:30 · 带有 Gemini 侧边栏的 Google Cloud Console
    • 用户与 Gemini 聊天面板互动，要求其显示“cymbal-shop-app”的最近警报。然后，它会浏览事件详情和日志浏览器，使用 Gemini 解释日志条目并建议故障排查命令。
  • 01:13:12 · BigQuery Studio 用户界面
    • 用户查询社交媒体帖子，然后使用“帮我编码”功能，通过提示生成一个复杂的 SQL 语句，以使用 LLM 提取情感和主题。该查询随后被修改为将数据导出到 Pub/Sub 的连续查询。
  • 02:06:04 · Next.js 聊天机器人应用程序
    • 展示了一个基于 Web 的聊天机器人用户界面。当用户要求预订航班时，界面会动态渲染一个航班列表（一个 React 组件）。当选择一个航班后，它会渲染一个座位选择器组件，从而演示了生成式 UI。
  • 02:36:34 · Spring Initializr 和 IntelliJ IDEA
    • 使用 Spring Initializr 网站来引导一个新的 Spring Boot 项目。然后代码在 IntelliJ IDE 中显示，其中使用 GraalVM 编译了一个本地镜像，并通过终端调用了由此产生的快速启动的 API。
  • 02:43:02 · Cloud Run Application Canvas
    • Cloud Run 中的一个新可视化界面，用户在提示中输入“带数据库的 Web 应用”。一个带有“服务”和“CloudSQL”块的图表出现，然后可以对其进行配置和部署。
  • 02:55:19 · Honeycomb.io 用户界面
    • 一个显示 SLO 的仪表板和一个“BubbleUp”视图，该视图自动高亮显示失败请求和成功请求之间差异最大的维度（如“错误”）。然后用户使用自然语言查询助手进行进一步调查。
  • 03:01:59 · Hugging Face 和 Vertex AI 用户界面
    • 展示了 Hugging Face 上的 Gemma 模型页面，其中有一个“部署”下拉菜单，内含“Google Cloud”选项。点击该选项会跳转到 Vertex AI 的“从 Hugging Face 部署”页面，该页面已预先填好模型详细信息，可实现一键部署。

关键主题

生成式 AI · 开发者体验 · 大语言模型运维 (LLMOps) · 云原生开发 · 检索增强生成 (RAG) · 多模态 AI · 提示工程 · 无服务器计算 · Kubernetes (GKE) · 可观测性 · 数据分析 · 应用框架 · Spring Framework · Next.js · AI 辅助开发

要点

  • Gemini 正在深度集成到整个 Google Cloud 生态系统中，以协助开发者进行编码、运行平台和运维应用程序。
  • Gemini 1.5 Pro 的 100 万 token 上下文窗口解锁了理解和推理海量信息（如整个代码库或长视频）的新能力。
  • Gemini Cloud Assist 在 Google Cloud Console 中充当一个具备上下文感知能力的 AI 伙伴，简化了架构设计和生产故障排查等复杂任务。
  • 谷歌通过 AlloyDB 等产品的原生向量数据库功能和 BigQuery 中的连续查询，使构建 RAG 和实时 AI 应用变得更加容易。
  • 通过 Vercel 的 Next.js AI SDK 展示的“生成式 UI”概念，代表了从纯文本聊天机器人向丰富的、基于组件的交互式 AI 体验的转变。
  • 与 Hugging Face、Vercel 和 Broadcom (Spring) 等开源领导者的合作是谷歌战略的核心，这使得在 Google Cloud 上使用流行的框架和模型变得更加简单。
  • 运维 GenAI 应用程序需要新的可观测性和提示管理方法，Vertex AI 中的工具以及 Honeycomb 等合作伙伴正在解决这些问题。
  • 谷歌正致力于通过 GKE 和 Cloud Run 的优化来提高 AI 工作负载的性能和效率，包括支持 TPU、GraalVM 本地镜像以及 Ray 等框架。