←新聞 7 / 12→

開發工具

Object Aligner:為 LLM 提示優化設計的可配置 JSON 模式相似度評分工具

Object Aligner: A Configurable JSON Schema Similarity Score for Graphs, Applied to LLM Prompt Optimization

Object Aligner:為 LLM 提示優化設計的可配置 JSON 模式相似度評分工具

arXiv cs.CL · 2026-07-03

摘要

研究人員開發了 Object Aligner,一個開源 Python 庫,能夠精確評估 LLM 輸出的 JSON 結構是否符合預期的 Schema。傳統的完全匹配太嚴格、文本相似度忽視結構、LLM 判斷耗時且不確定,Object Aligner 通過遞歸樹對齊演算法(對無序集合用匈牙利演算法、有序集合用序列對齊)並在 Schema 粒度級別給予部分分數,解決了這一難題。

大型語言模型常被要求產生符合固定 Schema 的 JSON 輸出,以支援資訊提取、工具呼叫、代理規劃及知識圖譜建構。然而,衡量輸出與黃金參考資料的相似度極具挑戰:完全匹配過於脆弱,文本相似度忽略結構,而使用 LLM 進行判斷則昂貴、不透明且缺乏確定性。針對此問題,研究人員開發了 Object Aligner(OA),這是一個開源 Python 函式庫,能透過遞歸樹對齊演算法,以匈牙利演算法處理無序集合、以序列對齊處理有序集合,並根據 Schema 宣告的粒度給予部分分數,從而確定性地為兩個 JSON 物件評分。

Object Aligner 完全透過一組 JSON Schema 擴充功能進行配置,適應新任務只需註釋 Schema 而無需編寫程式碼。針對複雜結構資料常非平面樹狀結構、可能形成圖或超圖且由任意識別碼索引的問題,研究提出「參考對齊」(referential alignment)作為核心貢獻。該機制透過推斷黃金與候選識別碼之間的雙射關係,並利用 Weisfeiler-Leman 色彩細化演算法近似圖同構問題,確保評分不受重新標籤影響,同時針對排序與規劃任務採用對順序敏感的序列機制。

由於該對齊方式能定位每一個不匹配處,Object Aligner 能以零額外成本發出排名修復建議。在實際應用中,當 Object Aligner 作為 GEPA 提示優化器內部的獎勵機制時,它在所有資料集上均能協助提升效果或保持中立。

●開發者:可使用更精準的 JSON 驗證工具優化 LLM 應用的資訊萃取和工具調用

●投資人:結構化資料評估技術成熟度提升,有利於 Agent 和知識圖譜等應用商業化

重要性評分

65/100

🟠 值得關注

JSON SchemaLLM 輸出評估結構化資料
原文出處
上一則← Teaching AI to run with the turbines:AI 成為工業基礎設施的核心操作層下一則Safety Targeted Embedding Exploit via Refinement:LLM 安全機制在低資源語言中的漏洞 →

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。

相關指南

🤖 本文摘要由 AI 自動生成,內容源自原始報導。如有疑慮,請參閱關於我們。

喜歡這篇?每天早晨還有更多。

訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。