标签

LLM

K–12 教师的 AI 实操课：把技能练到课堂里

来源: openai.com 34
OpenAI Academy 与 Walton Family Foundation 正在面向 K–12 教育工作者推出动手型 AI Skills Jams，重点不是让教师背概念，而是把 AI 用在备课、差异化教学、课堂活动设计和反馈生成这些真实场景里。对学校来说，AI 培训的价值不在“听过一场讲座”，而在教师能否带着边界感，把工具稳妥地嵌入日常教学。 ...
# AI # LLM # OpenAI
阅读全文

VS Code 1.128：多聊天 Agent、图片上下文和系统级快捷键开始连起来了

来源: oschina.net 35
Visual Studio Code 1.128 的重点不只是“聊天面板又多了几个按钮”。这次更新把 Agent 工作流往真实开发场景推了一步：同一类问题可以开多个相关会话并行探索，聊天里可以直接使用图片，甚至能通过操作系统级快捷键更快唤起编辑器动作。对每天在 IDE 里写代码、查日志、比方案的开发者来说，这些变化会影响你怎么组织问题、怎么比较答案，以...
# AI # LLM # 全栈
阅读全文

Nebula 1.0：把阿里云 OSS 放进一个像文件管理器的桌面应用里

来源: oschina.net 30
Nebula 1.0.0 的重点不是“又一个对象存储客户端”，而是把多云对象存储管理做成一个统一桌面入口。首个正式版先接入阿里云 OSS，覆盖浏览、上传、下载、分享和传输管理这些高频动作；底层用 Rust + Tauri 做跨平台桌面应用，目标是原生、轻量、打开就能用。 云对象存储的日常操作很碎：找 bucket、进目录、上传一批文件、下载日志包、临时...
# AI # LLM # Rust
阅读全文

vLLM 的 Transformers 建模后端：把模型代码跑到接近原生速度

来源: huggingface.co 21
vLLM 生态里，“Transformers modeling backend”这个方向值得关注：它瞄准的是一个很实际的痛点，开发者希望复用 Hugging Face Transformers 里的模型定义和生态接口，同时又想拿到 vLLM 在推理吞吐、调度和显存利用上的性能优势。标题里的 native-speed 说明重点不只是“能跑”，而是尽量接近...
# AI # Hugging Face # LLM
阅读全文

GPT-Live 把语音交互推向实时对话

来源: openai.com 33
GPT-Live 被定位为新一代语音模型，目标是让人与 AI 的语音互动更自然，并且已经用于 ChatGPT Voice。这件事的重点不只是“能听能说”，而是语音模型开始更接近一场真实对话：更低的等待感、更自然的轮次切换，以及更适合移动端、客服、陪练和车载等场景的交互形态。 过去很多语音 AI 系统是拼装出来的：先 ASR 把声音转成文字，再把文字交给...
# AI # LLM # OpenAI
阅读全文

从 Hugging Face 一键跳到 SageMaker Studio：把模型试验拉进 AWS 工作台

来源: huggingface.co 32
Hugging Face 模型页面到 Amazon SageMaker Studio 的“一键”入口，解决的是一个很实际的问题：开发者在模型社区里发现模型之后，不想再手动复制模型 ID、配置 Notebook、安装依赖、再拼部署脚本。这个入口把“发现模型”和“在 AWS 里继续实验”接了起来，让原型验证更少卡在环境准备上。 对机器学习团队来说，Hugg...
# AI # Hugging Face # LLM
阅读全文

从 PostgreSQL 换到 ClickHouse：高吞吐缓存查询的现实取舍

来源: infoq.com 29
Momentic 为 AI 驱动的软件测试平台重构了缓存系统：规模达到每天超过 200 万次查询、总计约 200 亿条记录，同时把平均响应延迟维持在约 250 ms。关键变化不是给 PostgreSQL 再加一层补丁，而是把缓存查询负载迁移到列式数据库 ClickHouse。 这类迁移值得后端团队关注，因为它不是“数据库谁更强”的抽象争论，而是一个典型...
# AI # InfoQ # LLM
阅读全文

用 ClickHouse 扛住 200 万次/天缓存查询：从 PostgreSQL 迁移的工程取舍

来源: infoq.com 37
Momentic 在重构其 AI 软件测试平台的缓存系统时，把存储层从 PostgreSQL 迁到列式数据库 ClickHouse，用来支撑每天超过 200 万次查询、总量约 200 亿条缓存记录，并把平均响应延迟维持在约 250 ms。这个案例值得关注，不是因为“PostgreSQL 不行”，而是因为缓存查询的形态一旦变成大规模读、宽表扫描、按条件过...
# AI # InfoQ # LLM
阅读全文

用 Amazon QuickSight 多数据集 Topic 搭一层统一语义层

来源: aws.amazon.com 40
Amazon QuickSight 的 multi-dataset Topics 让一个 Topic 不再只能围着单张数据集回答问题。对零售、财务、运营这类天然分散的数据域来说，这个变化很关键：业务用户可以在同一个聊天入口里问跨数据集问题，而不是先猜订单、库存、门店、营销分别在哪张表里。 传统 BI 里的自然语言问答常卡在一个地方：字段名能解释，但数据...
# AI # AWS # LLM
阅读全文

用 Amazon Bedrock AgentCore 搭一个无服务器图片编辑 Agent

来源: aws.amazon.com 37
图片编辑正在从“打开专业软件、找按钮、调参数”变成“上传照片，说一句要改什么，然后等结果”。这篇内容介绍的是一个基于 Amazon Bedrock AgentCore harness 的无服务器图片编辑 Agent：用户上传图片，用自然语言描述编辑需求，系统在几秒内返回处理后的图片。关键点不是单个模型调用，而是把认证、加密存储、三类图片编辑工具、Age...
# AI # AWS # LLM
阅读全文