Skip to the content.

From 47 items, 29 important content pieces were selected

AI 与工具

  1. Valve 正式发布新款 Steam Machine 游戏主机 ⭐️ 8.0/10 · HN · 17:09
  2. Moebius: 0.2B 参数图像修复模型宣称达 10B 级性能 ⭐️ 8.0/10 · HN · 13:53
  3. 加拿大计划未来 15 年建造最多 10 座新核反应堆 ⭐️ 8.0/10 · HN · 19:06
  4. OpenAI Codex CLI 日志缺陷可致 SSD 写入数 TB 数据 ⭐️ 8.0/10 · HN · 07:30
  5. Flock 安全摄像头被警察跟踪女性,亟需搜查令要求 ⭐️ 8.0/10 · HN · 19:13
  6. Mitchell Hashimoto 承诺向 Zig 软件基金会再捐 40 万美元 ⭐️ 8.0/10 · HN · 13:43
  7. sqlite-utils 4.0rc1 引入迁移和嵌套事务 ⭐️ 8.0/10 · Simon Willison · 23:30
  8. Hacker News 热议 GLM 5.2 与 Opus 单次编码基准测试 ⭐️ 7.0/10 · HN · 07:22
  9. Cloudflare 新增临时 Workers 匿名部署功能 ⭐️ 7.0/10 · Simon Willison · 22:01

    数据仓库

  10. Apache Iceberg 提议新增 Variant 数据类型 ⭐️ 8.0/10 · GitHub · 12:52
  11. Apache Hudi RFC 提出新表 API 以改进查询引擎集成 ⭐️ 8.0/10 · GitHub · 23:15
  12. Apache Iceberg REST 目录新增新鲜度感知表加载功能 ⭐️ 7.0/10 · GitHub · 00:50
  13. Apache Iceberg Flink 集成拟支持水印与计算列元数据 ⭐️ 7.0/10 · GitHub · 03:53
  14. Delta Lake 协议新增重定向功能提案 ⭐️ 7.0/10 · GitHub · 20:12
  15. Apache Iceberg 计划在 v4 规范中添加 varchar 和 char 类型 ⭐️ 6.0/10 · GitHub · 13:55
  16. 提交时捕获并发射 Parquet 页脚聚合指标 ⭐️ 6.0/10 · GitHub · 15:58
  17. Apache Iceberg 拟在 REST 响应中暴露服务器分配的表标识符 ⭐️ 6.0/10 · GitHub · 19:56
  18. Iceberg REST 目录拟增加标签元数据字段 ⭐️ 6.0/10 · GitHub · 08:00
  19. Iceberg REST API 提议新增 recursive 参数以简化命名空间列表获取 ⭐️ 6.0/10 · GitHub · 00:37

    GitHub 趋势

  20. DeusData/codebase-memory-mcp +1186⭐: DeusData/codebase-memory-mcp:亚毫秒级代码智能 MCP 服务器 ⭐️ 8.0/10 · GH Trending · 22:19
  21. bytedance/deer-flow +736⭐: 字节跳动开源长时 SuperAgent 框架 DeerFlow 一日获 736 星 ⭐️ 8.0/10 · GH Trending · 22:19
  22. lyogavin/airllm +187⭐: AirLLM 实现单张 4GB GPU 运行 70B 大模型推理 ⭐️ 8.0/10 · GH Trending · 22:19
  23. calesthio/OpenMontage +2935⭐: OpenMontage:全球首个开源智能体视频制作系统 ⭐️ 7.0/10 · GH Trending · 22:19
  24. mukul975/Anthropic-Cybersecurity-Skills +957⭐: Anthropic 网络安全技能集开源项目单日获 957 星 ⭐️ 7.0/10 · GH Trending · 22:19
  25. firecrawl/firecrawl +736⭐: firecrawl/firecrawl 单日获星 736 个,成热门网页抓取 API ⭐️ 7.0/10 · GH Trending · 22:19
  26. Stirling-Tools/Stirling-PDF +691⭐: Stirling-PDF 单日获 691 星,成 GitHub 热门 PDF 工具 ⭐️ 7.0/10 · GH Trending · 22:19
  27. garrytan/gstack +649⭐: Garry Tan 发布 gstack:23 个 Claude Code 开发角色工具 ⭐️ 7.0/10 · GH Trending · 22:19
  28. tursodatabase/turso +538⭐: Rust 嵌入式数据库 Turso 单日获 538 星 ⭐️ 7.0/10 · GH Trending · 22:19
  29. jamiepine/voicebox +508⭐: 开源 AI 语音工作室 Voicebox 单日获星 508 颗 ⭐️ 7.0/10 · GH Trending · 22:19

AI 与工具

Valve 正式发布新款 Steam Machine 游戏主机 ⭐️ 8.0/10

Valve 于 2026 年 6 月 29 日正式推出全新 Steam Machine,这是一款搭载 SteamOS 的迷你游戏电脑主机,具备开放平台特性,并采用随机预订系统以确保公平。 作为 Valve 在 2018 年停产后的重磅回归,新款 Steam Machine 以开放生态挑战封闭式游戏主机市场,有望推动 Linux 游戏生态发展,并为玩家提供兼具主机便利与 PC 自由度的选择。 随机预订系统旨在避免机器人抢购与网络速度优势带来的不公;主机性能据称在部分场景下比 Steam Deck 快六倍以上,且允许用户安装其他操作系统或软件。

hackernews · theschwa · Jun 22, 17:09 · 社区讨论

背景: Steam Machine 最初于 2015 年由 Valve 联合多家厂商推出,运行 SteamOS 以提供客厅游戏体验,但由于生态不成熟于 2018 年基本退出市场。2025 年 11 月,Valve 宣布新一代 Steam Machine,改为自行设计制造,并于 2026 年 6 月 29 日上市,主打开放平台和高性能。

参考链接

社区讨论: 社区普遍赞赏随机预订系统的公平性,并对硬件不锁死、允许自由安装软件甚至其他操作系统的开放理念表示认同。部分用户表示购买动机是为了支持 Linux 游戏生态,还有人将 Steam Machine 与过去的封闭场景对比,认为 Valve 的做法难得且符合常理。

标签: #gaming, #hardware, #steam, #valve, #open-platform


Moebius: 0.2B 参数图像修复模型宣称达 10B 级性能 ⭐️ 8.0/10

Moebius 是由华中科技大学等团队提出的 0.2B 参数图像修复模型,声称性能可与 10B 参数级别的大模型相媲美。该模型引起了广泛关注,社区已制作出浏览器内运行的交互式演示。 这表明小型高效模型在图像修复任务上潜力巨大,能大幅降低计算成本与部署门槛,使浏览器端实时修复成为可能,对移动应用和边缘计算场景尤为关键。 根据社区测试,修复区域常比周围更平滑,对新颖物体处理不佳,且仅支持 512×512 分辨率输出。模型已通过 ONNX 转换实现在浏览器中运行,但仍有明显局限。

hackernews · DSemba · Jun 22, 13:53 · 社区讨论

背景: 图像修复(Inpainting)是利用 AI 重建图像缺失或损坏部分的技术,通过分析周围纹理和图案来自然填补空白。传统修复依赖专业技师,现代深度学习模型则可自动完成。Moebius 的特别之处在于用极低的参数量尝试接近大模型效果,体现了模型压缩与效率优化的进展。

参考链接

社区讨论: 社区反响热烈但褒贬不一。有人成功将模型转为 ONNX 在浏览器运行,也有人指出实际效果未达宣传水平,尤其对新物体和复杂场景处理不佳。部分用户期待面向漫画翻译等特定用途的优化版本。

标签: #image-inpainting, #deep-learning, #model-efficiency, #computer-vision, #generative-ai


加拿大计划未来 15 年建造最多 10 座新核反应堆 ⭐️ 8.0/10

加拿大政府宣布计划在未来 15 年内建造多达 10 座新核反应堆,利用本国丰富的铀资源和成熟的 CANDU 反应堆技术来提供清洁的基荷电力。 此举标志着加拿大国家能源政策向核能大幅倾斜,有助于为日益增长的风能、太阳能等间歇性可再生能源提供稳定基荷,同时可降低油砂等重工业的碳排放,对全球清洁能源转型具有示范意义。 计划可能涉及大型 CANDU 堆或新型小型模块化反应堆(SMR),达灵顿新核电项目已进入建设阶段,反应堆将为安大略、萨斯喀彻温等省提供工业与民用电力,并探索在阿尔伯塔油砂地区利用核能降低开采碳排放。

hackernews · geox · Jun 22, 19:06 · 社区讨论

背景: CANDU 反应堆是加拿大自主研发的加压重水反应堆,使用天然铀燃料和重水作慢化剂,具有无需浓缩铀、可不停堆换料、安全性高等特点,至今已在全球多国运行。基荷电力指电网中持续稳定的最小电力需求,核能作为高效基荷电源,能弥补太阳能、风能等间歇性能源的波动。加拿大拥有全球最大的铀矿储量之一,为大规模发展核电提供了坚实的资源基础。

参考链接

社区讨论: 社区评论普遍持积极态度,认为加拿大具备铀资源、CANDU 技术及核电站建设运营经验,发展核电是合理之选。有评论指出在油砂区部署反应堆可大幅减少原油生产中的二氧化碳排放,也有人呼吁应建造更多反应堆以推动北方城市发展。部分评论对加拿大核电出口竞争力表示好奇,但总体支持这一政策转向。

标签: #nuclear energy, #Canada, #clean energy, #baseload power, #energy policy


OpenAI Codex CLI 日志缺陷可致 SSD 写入数 TB 数据 ⭐️ 8.0/10

OpenAI 的 Codex CLI 工具被发现存在严重日志记录缺陷,会在用户不知情的情况下向本地 SSD 写入高达数 TB 的数据,导致存储空间耗尽及性能问题。 此缺陷可能迅速耗尽用户 SSD 寿命,造成性能下降,并可能对开发者的工作流产生严重影响。它暴露了 AI 编码工具在资源管理上的不足,引发对 OpenAI 质量控制流程的质疑。 该日志数据存储在 SQLite 数据库中,用户可通过创建触发器阻止插入来临时规避。目前该问题已在代码库中修复,预计在下一版本中发布。

hackernews · vantareed · Jun 22, 07:30 · 社区讨论

背景: Codex CLI 是 OpenAI 于 2025 年推出的本地终端 AI 编码代理,利用大语言模型辅助开发者进行代码阅读、修改和运行,需用户订阅使用。此次缺陷是其日志记录机制中 SQLite 数据库无限增长所致。

参考链接

社区讨论: 社区普遍对 OpenAI 的质量控制表示失望,批评其响应缓慢,并指出类似问题(如 GPU 占用 100%)已长期未解决。有用户分享了通过 SQLite 触发器阻止日志写入的临时方案,并指出代码已开源可自行修补。同时,有评论提到团队已提交修复,但尚未发布。

标签: #openai, #codex, #logging, #bug, #performance


Flock 安全摄像头被警察跟踪女性,亟需搜查令要求 ⭐️ 8.0/10

IPVM 调查报告揭露,美国多名警察局长利用 Flock 自动车牌识别摄像头非法跟踪女性,凸显无授权监控的滥用风险。 此次事件暴露了执法机构在没有搜查令的情况下滥用监控技术的严重性,可能推动立法强制要求使用 Flock 等系统前必须先获司法授权,以保护公民隐私和第四修正案权利。 Flock 摄像头已在全美 2500 多个城市部署,自动记录所有过往车辆车牌,且政府已豁免相关数据免受公开信息法案查询,使滥用行为更难被公众监督。

hackernews · jhonovich · Jun 22, 19:13 · 社区讨论

背景: Flock Safety 摄像头是美国广泛使用的自动车牌识别系统(ALPR),安装在电线杆和建筑物上,每辆车经过时都会被拍摄并记录车牌、时间、位置等信息。这些数据联网存储,执法部门可随意查询,虽有助于破案,但因无差别监控和缺乏有效授权机制而长期引发隐私争议。

参考链接

社区讨论: 社区普遍谴责警方滥用行为,认为这明显违反第四修正案,建议民众联系 ACLU 组织制止未经选举的警察局长安装摄像头。也有用户指出当局已豁免数据公开,令问题更加隐蔽,有人担心即使要求搜查令,也会被以‘及时性’为由豁免。

标签: #privacy, #surveillance, #law-enforcement, #civil-liberties, #technology-policy


Mitchell Hashimoto 承诺向 Zig 软件基金会再捐 40 万美元 ⭐️ 8.0/10

Ghostty 终端和 HashiCorp 联合创始人 Mitchell Hashimoto 宣布向 Zig 软件基金会再次捐赠 40 万美元,以支持 Zig 编程语言的持续开发。 这笔重大个人捐赠为开源语言基金会提供了可持续的资金模式,有助于 Zig 语言生态的长期发展,并在系统编程领域带来更多创新。 Zig 是一门无宏、支持手动内存管理和编译时泛型的系统编程语言,旨在成为 C 的现代替代品,此次资金将直接支持核心团队和基础设施。

hackernews · tosh · Jun 22, 13:43 · 社区讨论

背景: Zig 是一门由 Andrew Kelley 于 2016 年创建的通用系统编程语言,采用 MIT 许可证,由非营利组织 Zig 软件基金会资助开发。Mitchell Hashimoto 是知名开源项目 Ghostty 的作者,也是云基础设施公司 HashiCorp 的联合创始人。

参考链接

社区讨论: 社区讨论积极,有用户赞赏 Hashimoto 关于“互联网可以接纳怪异”的观点,认为这鼓励了个性表达;有人高度评价 Ghostty 终端带来的实用价值甚至超过某些巨额科技收购;还有讨论涉及 Zig 对 LLM 生成代码的保留态度,强调语言设计需深思熟虑。整体对捐赠和 Zig 文化持肯定看法。

标签: #zig, #donation, #open-source-funding, #software-foundation, #programming-language


sqlite-utils 4.0rc1 引入迁移和嵌套事务 ⭐️ 8.0/10

sqlite-utils 4.0rc1 版本新增了数据库迁移(migrations)和嵌套事务(nested transactions)两大特性。迁移功能是由独立包 sqlite-migrate 移植而来,支持通过 Python 代码或命令行工具管理数据库模式变更。 这将迁移能力直接集成到 sqlite-utils 中,简化了 SQLite 数据库模式演变的工作流程,对依赖该库进行数据处理的个人项目和生产环境都能带来开发效率的提升。 迁移系统是仅向前(forward-only)的,不提供反向迁移,错误只能通过新增迁移修复;嵌套事务为组件化应用提供了更灵活的事务控制。该候选版有轻微向后不兼容,正式发布前建议用户测试。

rss · Simon Willison · Jun 21, 23:30

背景: sqlite-utils 是一个广受欢迎的 Python 库和命令行工具,可简化 SQLite 数据库的创建、查询和转换。数据库迁移是一种对关系型数据库模式进行版本化、增量变更的管理技术,帮助开发者在应用演进时安全更新表结构。嵌套事务则允许在一个事务内部开启子事务,实现更细粒度的事务控制。

参考链接

标签: #sqlite-utils, #Python, #SQLite, #library, #release


Hacker News 热议 GLM 5.2 与 Opus 单次编码基准测试 ⭐️ 7.0/10

Hacker News 社区就一项使用单次提示对比 GLM 5.2 与 Claude Opus 编码能力的基准测试展开激烈辩论。尽管方法受质疑,部分开发者仍认为 GLM 5.2 是开源编码模型中成本低廉且性能突出的选择。 讨论揭示了单次基准测试的局限性,同时表明像 GLM 5.2 这样的开源模型正以接近顶级商业模型的性能,显著降低开发者使用门槛,可能重塑编码工具的成本效益格局。 基准测试要求模型用单次提示生成原生 WebGL 的 3D 平台游戏,未模拟真实的多轮代理协作。GLM 5.2 API 价格为输入/输出每百万 token $1.4/$4.4,仅为 Claude Opus ($5/$25) 的几分之一,性价比突出。

hackernews · ritzaco · Jun 22, 07:22 · 社区讨论

背景: GLM 5.2 是 Z.ai(原智谱 AI)开发的开源大语言模型,采用 MIT 许可证,自 2025 年 7 月起完全开放。单次编码(one-shot coding)指仅给模型一次提示即生成完整代码,与包含迭代调试、约束遵循的代理式编码(agentic coding)有本质区别,难以反映真实开发场景下的可靠性。

参考链接

社区讨论: 社区普遍批评单次基准缺乏代表性,认为应评估代理式编码的可靠性和可引导性。但多名实际用户反馈 GLM 5.2 在非前沿模型中进步显著,部分体验接近 Claude Opus,且成本仅相当于 Claude Haiku,对个人项目很有吸引力。

标签: #AI, #LLM, #coding, #benchmarking, #model-comparison


Cloudflare 新增临时 Workers 匿名部署功能 ⭐️ 7.0/10

Cloudflare 现在允许无需创建账户,通过命令 npx wrangler deploy --temporary 临时部署 Workers 应用,应用将保持活跃 60 分钟。 这一功能降低了试用 Cloudflare Workers 的门槛,方便开发者快速测试和原型构建,也便于 AI 代理自动生成和部署应用。 部署后会输出一个认领 URL,可用于将临时项目转为永久账户,认领页面显示剩余时间。临时项目运行 60 分钟后自动失效。

rss · Simon Willison · Jun 21, 22:01

背景: Cloudflare Workers 是 Cloudflare 提供的边缘计算平台,允许开发者在 Cloudflare 全球网络上运行 JavaScript 代码,实现低延迟的服务器 less 应用。部署到 Workers 的应用通常需要 Cloudflare 账户,但此次更新提供了无需账户的临时部署方式。

参考链接

标签: #cloudflare, #workers, #ephemeral, #deployment, #developer-tools


数据仓库

Apache Iceberg 提议新增 Variant 数据类型 ⭐️ 8.0/10

Apache Iceberg 社区提交了 issue #10392 提案,计划添加 Variant 数据类型,以支持对 JSON、Avro、Parquet 等半结构化数据进行高效的二进制编码和查询。 该特性将大幅提升数据湖中半结构化数据的处理效率,使查询引擎能够更灵活快速地操作动态数据,对数据工程和实时分析场景有重要价值。 该提案目前处于建议阶段,旨在通过内部二进制表示存储半结构化数据,在保留源数据灵活性的同时优化查询性能,具体实现细节尚未公布。

github · sfc-gh-aixu · Apr 30, 12:52

背景: Apache Iceberg 是一种面向大型分析表的高性能表格式,由 Netflix 开发并捐赠给 Apache 基金会,现已广泛应用于数据湖场景。传统上半结构化数据(如 JSON)常以字符串形式存储,导致查询时需实时解析,效率低下。Variant 数据类型能以统一二进制格式存储无固定模式的数据,使查询引擎可直接操作编码后的内容,避免运行时开销。该特性借鉴了其他系统中的类似设计,旨在填补 Iceberg 在半结构化数据处理上的空白。

参考链接

标签: #apache-iceberg, #semi-structured-data, #data-engineering, #data-types, #variant


Apache Hudi RFC 提出新表 API 以改进查询引擎集成 ⭐️ 8.0/10

Apache Hudi 社区发布了 RFC #15195,提出一套新的 Table APIs,旨在标准化和简化 Hudi 与各类查询引擎的集成方式。该提案对应 JIRA 任务 HUDI-4142,属于更大的史诗 HUDI-4141 的一部分。 新的 Table APIs 将降低查询引擎接入 Hudi 的复杂度,提升对多引擎(如 Spark、Flink、Trino 等)的统一支持,从而巩固 Hudi 作为数据湖 house 平台的生态地位,加速数据湖上的实时分析与 AI 工作负载。 该 RFC 目前处于设计阶段,尚未披露具体的 API 细节,但明确目标是替代或增强现有的 Table 抽象层,以便更好地封装 Hudi 内部实现,并统一文件列表、时间线、索引等模块的访问方式。

github · hudi-bot · Dec 11, 23:15

背景: Apache Hudi 是一个开源数据湖 house 平台,为数据湖带来 ACID 事务、高效的 upsert/delete 以及增量查询等数据库级功能。Table API 是查询引擎与 Hudi 表交互的核心接口,负责表元数据、文件索引和读写路径的抽象。当前 Hudi 已支持 Spark、Flink、Presto 等多种引擎,但各自集成方式存在差异,增加了维护成本和升级难度。

参考链接

标签: #apache-hudi, #table-api, #query-engine, #rfc, #data-lake


Apache Iceberg REST 目录新增新鲜度感知表加载功能 ⭐️ 7.0/10

Apache Iceberg 社区提出了在 REST catalog 中增加新鲜度感知表加载的优化方案(Issue #11766),允许客户端仅当表元数据自上次加载后发生变化时才执行完整加载,否则返回轻量级响应,避免不必要的全量元数据刷新。 该优化可显著减少查询引擎等客户端频繁全量加载表元数据带来的开销,提升缓存效率,尤其对大规模数据湖场景下的查询性能有积极影响,进一步增强了 Iceberg 生态的竞争力。 方案新增了一个目录级 API,客户端请求时可携带上次已知的版本标识(如表 UUID 或快照 ID),服务端据此判断是否返回完整元数据;对应的 OpenAPI 规范变更及客户端实现已通过 #11946 和 #14398 提交到主线。

github · gaborkaszab · Jun 14, 00:50

背景: Apache Iceberg 是一种开放式数据湖表格式,其 REST catalog 通过 HTTP API 提供跨语言的元数据服务。传统上,引擎为保持缓存最新需每次全量加载表元数据,即便无变更也造成资源浪费。新鲜度感知加载通过版本比对,仅在元数据变化时传输完整数据,可视为一种高效的缓存一致性策略。

参考链接

标签: #Apache Iceberg, #REST catalog, #table metadata, #performance optimization, #open source


Iceberg 社区提出在 Flink 集成中增加对水印(watermark)和计算列(computed column)元数据的支持,以更好地对齐流式 SQL 的需求。 这将使 Iceberg 表在 Flink 流式处理中能够保留关键的查询规划和执行元数据,提升流式表的使用体验和兼容性。 该功能将允许用户在通过 Flink 创建 Iceberg 表时定义水印和计算列,并将这些元数据持久化到 Iceberg 的 catalog 中,供查询引擎使用。

github · SteveStevenpoor · Jun 12, 03:53

背景: Apache Iceberg 是一种用于大规模分析表的高性能格式,支持多种引擎。Apache Flink 是流批一体的分布式处理框架,广泛用于实时数据处理。水印(watermark)是流处理中用于处理事件时间和延迟数据的移动阈值,计算列是基于其他列表达式导出的虚拟列。目前 Iceberg 的 Flink 集成仅保存表结构,不保存这些流式特有的元数据,导致从 catalog 恢复表时信息丢失。

参考链接

标签: #apache-iceberg, #flink, #streaming, #watermarks, #computed-columns


Delta Lake 协议新增重定向功能提案 ⭐️ 7.0/10

Delta Lake 协议变更提案 #3705 正式引入“重定向”(Redirection)功能,详细定义了该功能的启用、禁用流程以及查询重定向工作流。 该功能将实现表级别的查询重定向,有助于表迁移、架构演进和多集群协作等场景,提升 Delta Lake 在数据湖仓架构中的灵活性与可用性。 提案包含功能定义、启用与禁用步骤以及完整的查询重定向流程细节;目前该 PR 处于文档变更阶段,具体的技术实现与兼容性影响有待后续补充。

github · kamcheungting-db · Mar 14, 20:12

背景: Delta Lake 是一种开源存储引擎,通过事务日志和协议版本管理表的元数据与状态。协议变更通常引入新的表特性,影响读写兼容性。重定向功能可能允许一张表将其查询透明地转发到另一张表或位置,从而简化表重命名、数据迁移等操作,避免对下游查询造成中断。

参考链接

标签: #delta-lake, #protocol, #feature-proposal, #data-engineering, #open-source


Apache Iceberg 计划在 v4 规范中添加 varchar 和 char 类型 ⭐️ 6.0/10

Apache Iceberg 项目通过 PR #16829 提议在其 v4 规范中新增 varchar(N) 和 char(N) 两种原始字符串类型,以增强与传统 SQL 引擎的兼容性。 这一变更将显著提升 Iceberg 表与 DB2、Oracle 等传统数据库的互操作性,并充分利用 Spark 和 Trino 等引擎已支持的定长字符串处理能力,促进数据湖与数据仓库的融合。 新增类型已在 Spark 3.1.0 的 VarcharType(length) 和 CharType(length) 中实现,Trino 也原生支持;目前提议可能仅涵盖 char 和 varchar,暂不包括 nchar 和 nvarchar。

github · ebyhr · Jun 17, 13:55

背景: Apache Iceberg 是一种高性能开放表格式,专为大规模分析表设计,能够在 Spark、Trino、Flink 等多种引擎间实现安全的数据共享。它最初由 Netflix 开发,于 2020 年成为 Apache 顶级项目,广泛应用于数据湖场景,通过快照、ACID 事务等特性提供可靠的 SQL 表操作。

参考链接

标签: #apache-iceberg, #data-engineering, #sql, #specification, #open-source


提交时捕获并发射 Parquet 页脚聚合指标 ⭐️ 6.0/10

提议在写入过程中通过 Parquet 页脚直接捕获聚合的物理/存储统计信息,并在提交时通过 Iceberg 的事件框架发射这些指标,而不将数据持久化到表元数据中。 该功能使用户能够在不增加元数据膨胀的情况下实时监控数据质量和存储特征,提升数据管道的可观测性,对数据工程团队具有实际价值。 捕获的指标包括 value_counts、null_value_counts 等列级统计数据;此功能为可选的(opt-in),指标仅作为事件发射,不会写入 Iceberg 表的元数据文件。

github · gtrettenero · Jun 3, 15:58

背景: Apache Iceberg 是一种高性能的开源表格式,专为大规模分析表设计,支持多种计算引擎并发操作。Parquet 是一种列式存储格式,其页脚包含行组和列的统计信息(如最小/最大值、空值计数等),可用于优化查询和数据排序。本提案旨在将这些统计信息用于监控,而非存储优化。

参考链接

标签: #Apache Iceberg, #Apache Spark, #Parquet, #metrics, #data engineering


Apache Iceberg 拟在 REST 响应中暴露服务器分配的表标识符 ⭐️ 6.0/10

该提案建议在 Iceberg 的 REST API 中,于 LoadTableResponse 里新增服务器分配的 tableId 字段,使客户端无需拦截 HTTP 层即可进行资源级访问控制。 此举将使下游系统(如基于 S3 Tables 的服务)能够直接获取服务器端标识符,简化凭据获取和细粒度权限控制,提升云原生数据湖的集成效率。 具体实现将在 LoadTableResponse 中增加一个可选的 tableId 字段,由 REST 目录后端分配,目前该标识符仅用于服务器内部,未在客户端响应中暴露。

github · aritragster · May 18, 19:56

背景: Apache Iceberg 是一种面向大规模数据湖的开源表格式,支持通过 REST 目录与表进行交互。客户端调用加载表 API 会得到 LoadTableResponse 响应,其中包含表的元数据。目前服务器分配的标识符(如 tableId)仅用于内部,未暴露给客户端,导致跨系统授权时必须依赖 HTTP 层拦截或自定义扩展。

参考链接

标签: #Apache Iceberg, #REST API, #access control, #table metadata, #cloud-native


Iceberg REST 目录拟增加标签元数据字段 ⭐️ 6.0/10

Apache Iceberg 社区在 issue #15521 中提议,为 REST 目录的 LoadTableResponse 增加一个可选的 labels 字段,使目录服务能够传递表的自定义上下文元数据,如所有权、分类、成本归属等。 这解决了不同 Iceberg 目录间元数据互操作性的常见痛点,让开源引擎能够标准化地消费表级标签,避免了各目录使用私有的扩展字段,提升了多目录环境下的数据治理和集成能力。 该字段为可选项,具体结构尚待明确,预计采用键值对的形式,由目录服务端自行填充,不会影响现有的表元数据协议。

github · laskoviymishka · May 12, 08:00

背景: Apache Iceberg 是一种开放表格式,用于管理数据湖中的大型分析表。REST 目录规范自 Iceberg 0.14.0 引入,提供基于 HTTP 的目录服务,替代了语言特定的客户端实现。目前 LoadTableResponse 仅返回表的结构、快照和文件位置等信息,缺少对业务上下文的传递。

参考链接

标签: #apache-iceberg, #rest-catalog, #metadata, #interoperability, #oss


Iceberg REST API 提议新增 recursive 参数以简化命名空间列表获取 ⭐️ 6.0/10

Apache Iceberg REST API 提议在 /v1/{prefix}/namespaces 端点添加 recursive=true 参数,允许客户端通过单次请求获取某一前缀下的所有嵌套命名空间,避免多次递归调用(参见 issue #13453)。 该改进简化了 API 使用方式,显著减少遍历多层级命名空间所需的网络请求次数,提升了集成 Iceberg REST 目录的开发者的工作效率,尤其适用于管理大量嵌套命名空间的场景。 当前端点仅返回指定前缀或父命名空间下的直接子命名空间;新增的 recursive 参数为可选的布尔值,设置为 true 时服务端将递归遍历并返回所有嵌套命名空间。

github · Tishj · May 7, 00:37

背景: Apache Iceberg 是一种开源的高性能表格式,用于数据湖中的大规模分析表。命名空间(namespace)用于将表分组为逻辑单元,类似于传统数据库中的模式(schema)。Iceberg REST API 提供了与目录交互的接口,包括命名空间管理端点。

参考链接

标签: #Apache Iceberg, #REST API, #namespace listing, #API design, #optimization