> 资源 > 视频课程 > IT与软件

使用 Docker 构建和部署安全的 AI 工作负载

立即下载

免费资源

暂无评分

了解如何运行、管理 AI 工作负载并将其集成到 Docker 本机工具集中，例如 Docker Model Runner、MCP Toolkit 和 Offload。

IT与软件

课程详情

使用 Docker Model Runner 在本地计算机上释放大型语言模型 (LLM) 的强大功能。在本课程中，加入 Docker Captain 和 DevOps Institute 大使 Pawel Piwosz，他将向您展示如何设置和配置 Docker Model Runner 以在本地运行 LLM，从而可以从容器和主机系统访问它们。探索如何从 Docker Hub 拉取和管理预构建的模型，以及打包和分发您自己的模型。在此过程中，了解如何使用熟悉的 OpenAI API 界面将本地 LLM 集成到您的应用程序中。无论您是构建原型、保护隐私还是降低推理成本，本课程都会涵盖您需要了解的工具，以便在不依赖云的情况下运行强大的模型。