triviumdb

• 🧪 自由 DIY 混合查询管线 —— TQL 把向量召回、属性索引、图扩展、图算法、路径、集合代数、迭代、聚合与重排变成可自由编排的算子，由确定性 Cascades 优化器统一规划
• 📊 四类持久化属性索引 —— Hash / Ordered ART / Composite ART / Roaring Bitmap，等值、范围、前缀、复合条件与低基数集合运算全部索引加速
• 🧮 内嵌图算法库 —— PageRank / WCC / SCC / K-Core / Articulation Points / Triangle Count / Local Clustering Coefficient / HITS / Harmonic Centrality / Node Similarity / Leiden / Betweenness / Degree / Label Propagation / SA-PPR 可在查询内直接调用，并支持 Weighted Dijkstra、Yen K-Shortest Paths、PairSet 与有界路径/集合算子
• 🗃️ Rom/Mmap 双引擎切换 —— Rom 支持单文件 *.tdb 复制走人；Mmap 将向量和已发布 Payload 分离到 .vec 与 generation 化 .pld.<generation>，按需映射
• ❄️ Payload 冷热分层 —— 已发布 raw JSON 留在 mmap 冷基础层，新写入/更新进入内存 delta，解析结果进入有硬字节上限的 LRU Cache；ANN/BQ/Exact 候选阶段零 Payload 解析
• 🔗 节点即一切 —— 每个节点天然同时拥有限定长度的稠密向量、稀疏文本倒排词频、元数据和图关系，ID 全局唯一，绝不错位
• 🧠 为 AI 而生 —— 可选启用“AC自动机+BM25稀疏文本”与“Dense Vector稠密向量”的多路召回来触发图谱扩散检索，并内置多层认知管线（FISTA / DPP / PPR）
• 🛡️ 四层数据安全保障 —— 原子替换 + WAL日志 + 事务干跑验证（Dry-Run）+ Mmap COW 隔离，.flush_ok v3 绑定 .tdb/.vec/.pld，发布前旧代备份与撤销日志支持中断恢复；备份增加磁盘读写与临时空间，损坏输入仍 fail-closed，详见恢复协议
• 🐍 Python / Node.js 原生 —— pip install 或 npm install 后直接使用，类 MongoDB 查询语法
• ⚡ 高性能检索 —— rayon 并行暴力搜索（小规模 100% 精确）+ 自研 ANN 索引 QuIVer；默认采用无训练 SM-L2 导航与余弦精排，按向量工作量动态触发（209–834 节点）
• 💾 SSD 友好 —— Append-Only WAL + 后台 Compaction 线程 + QuIVer 索引独立持久化，杜绝随机写入磨损
• 🔒 共享只读打开 —— 多进程 Reader 共享锁并发查询已完成代际，Writer 继续保持排他锁与 WAL 安全边界
• 🧩 类型化访问能力 —— Rust DatabaseReader 在编译期隐藏写 API，DatabaseWriter 保留完整嵌入式写能力
• 🔄 不可变代际切换 —— GenerationStore 原子发布 current，跨进程 Reader 租约保护旧代安全回收，且不写入只读制品目录
• 🧰 多实例运行管理（0.9.0-beta.1） —— 共享 ResourceRuntime 统一管理配额、工作线程和任务名额，提供实例诊断、受控关闭与目录快照，适用于单机应用和容器中的 Agent 实例

为什么需要 TriviumDB？

当前 AI 应用的「三库割裂」困境

几乎所有的 AI 应用（Agent / RAG / 推荐系统）都同时需要三种数据能力，但市面上没有一个引擎能同时原生支持它们：

flowchart TD
    classDef old fill:#ffebee,stroke:#ff5252,stroke-width:2px,color:#000;
    classDef new fill:#e8f5e9,stroke:#4caf50,stroke-width:2px,color:#000;
    classDef app fill:#e3f2fd,stroke:#2196f3,stroke-width:2px,color:#000;
    classDef warning fill:#fff3e0,stroke:#ff9800,stroke-width:2px,color:#000;

    subgraph 现状 ["❌ 现状：三库系统缝合"]
        direction TB
        App1((Agent App)):::app
        DB1[(SQL DB<br/>文本/属性)]:::old
        DB2[(Vector DB<br/>稠密向量)]:::old
        DB3[(Graph DB<br/>知识图谱)]:::old

        App1 <-.网路 / 跨库 JOIN.-> DB1
        App1 <-.RPC / 独立服务.-> DB2
        App1 <-.另一套重运行时.-> DB3
    end

    subgraph 痛点 ["⚠️ 核心痛点"]
        direction TB
        P1[1. 三组独立的 ID 空间，需手写胶水代码同步]:::warning
        P2[2. 删一条记录要操作三个库，极易数据不一致]:::warning
        P3[3. 先向量检索再图扩散需跨库聚合，延迟爆炸]:::warning
        P4[4. 部署笨重，分享模型状态需打包三份独立文件]:::warning
    end

    现状 --> 痛点

    subgraph 解决 ["✨ TriviumDB：一库横扫"]
        direction TB
        App2((Agent App)):::app
        TV[(TriviumDB<br/>单一引擎 / 单一文件 / 单一 ID 空间)]:::new

        App2 ==事务写入向量+文档+图关系==> TV
        TV ==`search_hybrid()` 双路混合归一锚定+图谱扩散一次返回==> App2
        TV -.`flush()` Mmap零拷贝极速热启动.-> TV
    end

    痛点 --> 解决

一个具体的例子

假设你在做一个 AI 对话记忆系统，用户说了一句「我昨天和小红去了咖啡馆」：

适用场景

快速上手

安装

💡 TriviumDB 核心使用 Rust 编写，但我们已经在云端为您提前交叉编译了所有平台的二进制，无需在本地安装任何编译环境即可秒速安装！

Linux ARM64 / 鲲鹏支持： TriviumDB 支持 Linux AArch64，包含 ARM NEON 优化、ARM64 CI、Python manylinux ARM64 wheel 和 Node.js ARM64 addon 构建链路，可运行于基于 Linux AArch64 的鲲鹏服务器系统。

🐍 Python 用户

推荐使用超快的 uv （只需毫秒级）：

uv pip install triviumdb

或者使用传统 pip：

pip install triviumdb

🌐 Node.js / 前端用户

跨平台包已自带 *.node 预编译拓展，并含有完整的 TypeScript 补全：

npm install triviumdb
# 或者
pnpm add triviumdb

🦀 Rust 原生用户

直接把我们当成 Library 依赖：

cargo add triviumdb

0.9.0 是正式版：Rust、Python、Node.js 共享原生三模内核、Cascades 查询规划、原子事务、资源预算和受控关闭；新增复用已打开实例的 Console v1 宿主接口，并完善文件组恢复、迁移发布和 Windows 文件锁边界。Server 与 WebUI 继续采用 nightly 通道。

pip install "triviumdb==0.9.0"
npm install triviumdb@0.9.0
cargo add triviumdb@0.9.0

版本内容见 0.9.0 变更说明。

需要为嵌入式应用提供管理前端时，按Console 宿主接入复用同一实例和文件锁；现有 HTML 仍需前端传输适配，资源包会标明这一条件及 CDN 依赖。

🧪 尝鲜：HTTP 服务端版（nightly） —— TriviumDB 的正式产品形态始终是嵌入式数据库（进程内 Library，即装即用，无需部署）。仓库中的 triviumdb-server 提供了一个可选的 HTTP 壳（多客户端并发读写、OCC、流式 NDJSON 等），目前处于 nightly 预览状态，仅供尝鲜和跟踪演进方向，协议随时可能变更，请勿用于生产。详见 Server 说明（nightly）；一切 API 与用法说明仍以嵌入式版本为准。

30 秒入门

import triviumdb

with triviumdb.TriviumDB("memory.tdb", dim=3) as db:
    id1 = db.insert([0.12, -0.45, 0.78], {"text": "小明喜欢吃苹果"})
    id2 = db.insert([0.08, -0.52, 0.81], {"text": "小红送了小明一箱苹果"})
    db.link(id1, id2, label="caused_by", weight=0.95)

    results = db.search([0.10, -0.48, 0.80], top_k=5, expand_depth=2, min_score=0.6)
    for hit in results:
        print(f"[{hit.id}] score={hit.score:.3f} | {hit.payload}")

批量 ANN 查询由 Rust 共享线程池并行执行；Python 整批释放 GIL，Node.js 返回 Promise 且不阻塞事件循环。同一路径只需打开一个数据库实例：

batch_results = db.search_batch(
    [[0.10, -0.48, 0.80], [0.72, 0.11, -0.35]],
    top_k=10,
    parallelism=0,
)

const batchResults = await db.searchBatch(queryVectors, 10, 0, 0.0)

parallelism=0 表示自动选择并发度，最大允许值为 64；结果外层顺序严格对应输入查询。批量 API 仅支持无状态查询，不允许 fatigue 语义。

📖 完整 API 参考、高级用法和 Rust 示例请查看 API 参考文档。

一次存储，多种查询

TriviumDB 中的一个节点可以同时拥有向量、JSON 文档、稀疏文本和图关系，通过同一个 NodeId 按业务问题选择不同的查询路径。向量、文档与关系变更共享事务和 WAL；独立登记的稀疏文本通过 flush() 或可写句柄的 close() 持久化，应用应保留正文与别名来源以便重建。

TQL：自由 DIY 的统一查询语言

TQL（Trivium Query Language） 提供可自由编排的三模执行管线：每个 WITH 阶段产出命名 NodeSet，向量、BM25/AC 文本召回、属性索引、图扩展、图算法、FISTA、DPP、NMF、路径与集合代数都可按业务语义自由串联，最后由 Cascades 优化器在预算内选择物理计划：

-- 文档查询：按 JSON 字段过滤（命中属性索引则跳过全表扫描）
FIND {type: "paper", year: {$gte: 2024}} RETURN * LIMIT 10

-- 图查询：边可绑定为一等值并返回真实方向、标签、权重和 metadata
MATCH (author)-[relation:wrote]->(paper)
WHERE author.name == "Alice"
RETURN paper, relation

-- 向量锚定后，沿入边与出边做确定性结构扩展
SEARCH VECTOR [0.12, -0.45, 0.78] TOP 5
EXPAND BOTH [:cites|related*1..2]
RETURN *

-- GraphFirst：先由图模式限定合法候选，再在候选集内精确向量排名
MATCH (paper)-[:belongs_to]->(topic)
WHERE topic.name == "Database"
RANK paper BY VECTOR [0.12, -0.45, 0.78] TOP 10
RETURN paper

-- 🧪 自由 DIY：向量种子 → 图扩展 → 图算法打分 → 相似度过滤 → 重排
SEARCH VECTOR [0.12, -0.45, 0.78] TOP 100 AS seed
WITH seed
EXPAND seed [:cites*1..2] AS related
WITH related
pagerank related AS scored
WITH scored
WHERE similarity(scored) > 0.5
RETURN scored, similarity(scored) AS sim
ORDER BY sim DESC LIMIT 10

-- 🧠 文本锚定 → 参数化 SA-PPR → DPP 多样化
TEXT HYBRID "vector database" TOP 100 K1 1.2 B 0.75 AC_WEIGHT 1 AS text_seed
WITH text_seed
SA_PPR_CONFIG text_seed DEPTH 3 ALPHA 0.15 MAX_EDGES 64 MIN_WEIGHT 0 AS expanded
WITH expanded
DIVERSIFY expanded TOP 10 QUALITY_WEIGHT 1 AS diverse
WITH diverse
RETURN diverse, graph_score(diverse) AS relevance, diversity_score(diverse) AS diversity

-- 🛰️ 路径查询：从语义锚点出发的有界最短路径
SEARCH VECTOR [1, 0] TOP 1 AS seed
WITH seed
SHORTEST_PATHS seed TO [42] LABEL cites AS route
WITH route
RETURN path(route) AS nodes, path_length(route) AS hops

一条查询内还能使用 TEXT BM25/AC/HYBRID 做稀疏召回，RESIDUAL 做 FISTA 残差召回，DIVERSIFY 做 DPP 多样化，TOPICS 做有界 NMF 主题分配，SA_PPR_CONFIG 控制扩散参数；也可使用 union / intersect / except 做多路候选集合运算、iterate 做定点迭代扩散、COUNT/SUM/AVG/MIN/MAX/COLLECT 做聚合。text_score()、residual_score()、diversity_score()、topic() 与 topic_score() 均是一等表达式。EXPLAIN 会暴露 Cascades 选出的物理算子、预计行数、临时字节与预算切片。

search_advanced() 不会被 TQL 取代：它仍通过 SearchConfig 自由启停文本混合、FISTA、SA-PPR、DPP 与疲劳不应期，并按官方固定顺序执行；TQL 则复用同一底层算法，让高级用户自由安排无状态算子的顺序。

# Prepared TQL：同一管线安全地重复绑定业务参数
prepared = db.prepare_tql('FIND {kind: "note"} RETURN $bonus + 1 AS score')
print(prepared.parameter_names())          # ['bonus']
rows = db.execute_prepared_tql(prepared, {"bonus": 4})

Rust / Python / Node.js 三语言共享同一套 TQL、Prepared、四类属性索引与一等查询值；HTTP Server 另提供有界邻域子图、方向化边分页、批量节点读取和带逐跳边信息的路径端点。详细语法参见 TQL 查询语言参考。

多种图谱与混合查询

Reachability 回答“结构上能否到达”，GraphFirst 回答“结构约束内谁最相似”，SA-PPR 回答“哪些关联节点应获得更高相关性”。应用可以在同一份 .tdb 数据上按场景自由选择，也可以通过 TQL 将文档、图和向量条件组合在一次查询中。

核心特性

📖 深入了解架构设计和技术细节请查看 支持特性详解。

多实例资源管理与状态迁移

以下能力从 0.9.0-beta.1 起提供，Rust、Python 和 Node.js 接口同步发布。

多个租户、会话或 Agent 可以各自使用独立数据库，并共享一个 ResourceRuntime。运行时统一登记数据库配额和临时工作区，管理计算线程、前台任务与维护任务。宿主应用使用同一套 API 管理普通单机进程和容器内的数据库实例。

• 共享资源：配置总内存预算、维护保护额度、工作线程上限和前台根任务数；预算检查在操作准入时执行。
• 实例诊断：runtime.stats() 查看共享总账和余额，db.instance_stats() 查看本库配额、内存估算、活动操作数和维护状态。
• 受控关闭：request_shutdown() 停止新操作并排空已有工作；close_timeout() 提供限时等待，状态可通过 shutdown_status() 查看。
• 一致快照：create_snapshot() 捕获完整数据库目录，verify_snapshot() 校验制品，restore_snapshot() 将快照恢复到新目录。

from triviumdb import ResourceRuntime, TriviumDB

runtime = ResourceRuntime(
    memory_limit_mb=256, maintenance_memory_limit_mb=32,
    max_threads=4, max_active_tasks=8,
)
first = TriviumDB("agent-a.tdb", dim=3, memory_limit_mb=64, runtime=runtime)
second = TriviumDB("agent-b.tdb", dim=3, memory_limit_mb=64, runtime=runtime)
try:
    first.insert([1.0, 0.0, 0.0], {"text": "会话记忆"})
    print(runtime.stats())
    print(first.instance_stats())
finally:
    first.close()
    second.close()

内存预算按声明配额和已接入的工作区预留核算。部署时结合 mmap 驻留、页缓存、线程栈及语言运行时开销配置进程或容器限额。Python 预算异常与 Node 的 QueueFull 错误均提供 resource、requested、used、limit 字段，便于宿主限流、退避和释放闲置实例。

0.9.0-beta.2 的关闭完成点涵盖文件句柄、内存映射、数据库 Hook 与配额释放，并支持分组提交异常后的状态恢复。Rust 数据读取与 set_hook() 使用 Result 传播错误，Python/Node 在关闭后抛出关闭错误。迁移方式见版本变更。

详见共享资源与实例诊断和关闭、快照与恢复。

向量索引策略：QuIVer

QuIVer（Quantized Index for Vector Retrieval）是 TriviumDB 自研的近似最近邻（ANN）图索引。使用 BQ 快速构图 + 无训练 SM-L2 导航 + 原始向量余弦精排；导航结合两位编码与每向量幅值信息计算重建平方 L2，召回和吞吐取决于数据、参数与精排预算。

f32/f16 浮点 Embedding 使用余弦检索与 QuIVer 加速；u64 SimHash 指纹使用保留完整位模式的精确汉明检索。

📖 QuIVer 架构与配置 · 基准测试指南 · 0.9.0 变更说明

⚠️ 维度建议：强烈建议数据库向量维度不超过 3072。 TriviumDB 的通用存储与精确 BruteForce 检索允许更高维度，但 QuIVer 的 BQ 签名安全上限是 3072 维。超过该维度时引擎不会自动构建 QuIVer，检索会稳定回退到 BruteForce；手动构建 QuIVer 会返回明确错误。高维数据库仍可使用，但无法获得 QuIVer ANN 加速，内存和计算开销也会显著增加。

TriviumDB 采用智能自适应双引擎向量索引。自动 QuIVer 阈值按 ceil(666,667 / dim) 计算，并限制在 209–834 节点；低维数据保留更久的精确 BruteForce，高维数据更早切换 ANN：

例如 384/768 维在 834 节点触发，1024 维为 652，1536 维为 435，3072 维为 218。达到阈值后，下一次符合条件的查询或预热会构建索引。

QuIVer 的核心设计

冷热分离架构：原始向量留在向量池的冷层，精排时按预算读取。热内存需计入仍保留的 BQ、SM 位码与幅值、图、ID/slot 映射及线程工作区；内存收益须以具体配置测量，不能沿用旧版固定比例。

Mmap 按需映射冷向量页，未驻留页通过缺页读取。当随机查询工作集超过物理内存时，吞吐和尾延迟取决于 PageCache 命中率、设备随机读能力及系统回收压力。QuIVer 热索引位于匿名堆内存；容量评估分别记录内核堆、mmap 驻留和 OS PageCache。

增量图维护：与传统 HNSW 不同，QuIVer 支持真正的增量操作：

• ✅ 增量 Insert：新节点实时插入图中，无需全量重建
• ✅ 增量 Delete：Tombstone 软删除，25% 退化阈值触发重建
• ✅ 增量 Update：soft_delete + incremental_insert，原子替换
• ✅ 事务安全：分离时间线架构，事务 commit 不可失败，QuIVer 同步无需回滚

独立持久化：QuIVer 图以 .tdb.quiver 独立文件存储。加载有效图时，从实际向量池流式恢复默认 SM 状态，不常驻第二份全库 FP32，但需要读取冷向量并计入启动成本。旧索引需要重建才能应用新的构图保护；检测到断连索引时走现有重建/拒绝流程，不在加载时补边。

研究前线：TSNG 三信号导航

TSNG（Tri-Signal Navigation Graph） 是 TriviumDB 的混合检索研究线：在一个查询里同时声明向量信号、属性信号与图信号，用 TsngWeights 控制三路权重，得到统一打分的候选集——"既语义相似、又满足过滤条件、还在图结构上可达"。

use triviumdb::tsng::{TsngQuery, TsngWeights, GraphSignalQuery};

let query = TsngQuery {
    vector: &query_embedding,
    payload_filter: Some(&Filter::eq("kind", "note")),   // 属性信号
    graph: Some(GraphSignalQuery {                        // 图信号
        anchor_id: seed_id,
        direction: ReachabilityDirection::Outgoing,
        labels: Some(vec!["cites".into()]),
        min_edge_weight: 0.2,
        max_hops: 2,
    }),
    top_k: 10,
    weights: TsngWeights { vector: 1.0, property: 1.0, graph: 0.5 },
    budget: Default::default(),
};

let result = db.search_tsng(&query, config)?;   // 每个命中都带三路信号分解

研究价值在于可度量的检索质量：

• 多条执行策略：search_tsng_post_filter / search_tsng_graph_union / search_tsng_industrial，六条混合搜索 AccessPath 按预算与统计选择
• 信号可解释：TsngHit 返回 vector_similarity / property_signal / graph_signal 分解
• 内置 Ground Truth：tsng_ground_truth 生成精确答案，配套 Recall@K / NDCG@K 质量指标，论文级实验可直接复现
• 有界预算：候选数、访问节点、扫描边与前沿大小四维预算全部 fail-closed

TSNG 为实验性研究轨道（experimental research track），API 随研究进展演进。默认查询入口为 TQL 与 search* 家族。

# 启用 Python 绑定
maturin develop --features python

项目结构

TriviumDB/
├── src/
│   ├── lib.rs              # 库入口 + 公开 API
│   ├── database/           # 数据库核心模块（v0.7.0 模块化重构）
│   │   ├── mod.rs          # Database 结构体、CRUD、生命周期管理
│   │   ├── config.rs       # StorageMode / Config / SearchConfig 配置
│   │   ├── lifecycle.rs    # 受控关闭、实例诊断与关闭状态
│   │   ├── pipeline.rs     # 混合检索管线（L0-L9 + 6 个 Hook 注入点）
│   │   └── transaction.rs  # 事务系统（TxOp / Transaction / WAL 回放 + QuIVer 分离时间线）
│   ├── hook.rs             # 🔌 Hook 扩展系统（SearchHook trait + FFI 动态库加载）
│   ├── cognitive.rs        # 认知算子（FISTA / DPP / NMF）
│   ├── node.rs             # Node / Edge / SearchHit 数据结构
│   ├── vector.rs           # VectorType Trait（f32 / f16 / u64）
│   ├── filter.rs           # 高级过滤引擎 ($gt/$lt/$in/$and/$or)
│   ├── tsng.rs             # 🔬 TSNG 三信号混合检索研究线（六条 AccessPath + Ground Truth）
│   ├── error.rs            # 统一错误类型（含 ApiMigrationRequired / Sidecar 版本门禁）
│   ├── resources.rs        # 共享配额、工作线程池与资源统计
│   ├── query/              # 🧪 TQL 查询子系统（v0.8 查询引擎重构）
│   │   ├── tql_lexer.rs    #   词法分析（Token / 参数 / 位置诊断）
│   │   ├── tql_parser.rs   #   递归下降解析 + 作用域与语义校验
│   │   ├── tql_ast.rs      #   查询 / 管线 / 表达式 / 聚合 / Path AST
│   │   ├── cascades.rs     #   Cascades 优化器（Memo + 成本 + 预算切片）
│   │   ├── pipeline.rs     #   NodeSet 物理算子（图算法 / 路径 / 集合 / 迭代）
│   │   ├── tql_executor.rs #   一等值执行、聚合与结果投影
│   │   └── tql_prepared.rs #   Prepared TQL 严格参数绑定
│   ├── storage/
│   │   ├── memtable.rs     # 内存工作区 (SoA 向量池 + HashMap + QuIVer 集成)
│   │   ├── wal.rs          # Write-Ahead Log（崩溃恢复）
│   │   ├── file_format.rs  # .tdb 单文件读写（含 BQ Metadata + QuIVer 持久化）
│   │   ├── vec_pool.rs     # 分层向量池（mmap 基础层 + delta 增量层）
│   │   ├── snapshot.rs     # 代际清单、快照校验与目录传输入口
│   │   ├── snapshot/      # 快照创建、校验与恢复
│   │   └── compaction.rs   # 共享计时调度、后台压实与维护诊断
│   ├── index/
│   │   ├── brute_force.rs  # rayon 并行暴力精确搜索
│   │   ├── bq.rs           # BQ 二进制量化签名（QuIVer 基础层）
│   │   ├── quiver.rs       # 🚀 QuIVer ANN 索引（BQ 构图 + 默认 SM-L2 导航）
│   │   ├── property.rs     # 📊 四类属性索引（Hash / Ordered ART / Composite ART / Roaring Bitmap）
│   │   ├── text.rs         # 📝 TextIndex（Aho-Corasick + BM25 2-Gram 持久化）
│   │   └── graph_blocks.rs # 🔗 业务图块索引 .gidx（出边块 / 入边目录 / Label 目录）
│   ├── graph/
│   │   ├── traversal.rs    # SA-PPR 有限深度图扩散
│   │   ├── reachability.rs # 确定性可达性（方向 / 标签 / 深度 / 预算）
│   │   ├── pathfinding.rs  # 有界 ALL_PATHS / 批量最短路径
│   │   └── leiden.rs       # Leiden 社区发现算法
│   └── bindings/           # FFI 绑定层（公共逻辑已提取至核心模块）
│       ├── mod.rs          # 统一入口（feature-gated）
│       ├── python.rs       # PyO3 绑定（含 Hook 管理接口）
│       └── nodejs.rs       # napi-rs 绑定（含 Hook 管理接口）
├── crates/
│   ├── triviumdb-cli/      # 🖥️ CLI & TUI 工具（命令 `tdb`）
│   │   ├── Cargo.toml
│   │   ├── README.md
│   │   └── src/
│   │       ├── main.rs             # clap 参数解析 + 模式分发
│   │       ├── db_handle.rs        # DbHandle dtype 动态分发（dispatch! 宏）
│   │       ├── formatter.rs        # table / json / csv 输出格式化
│   │       ├── tql_highlight.rs    # TQL 语法高亮（REPL ANSI + TUI Span）
│   │       ├── config.rs           # ~/.triviumdb.toml 配置加载
│   │       ├── commands/           # 非交互子命令（info/exec/export/import/repair/compact）
│   │       ├── repl/               # REPL 模式（rustyline + Tab 补全 + 多行输入）
│   │       └── tui/                # TUI 模式（ratatui + crossterm 全屏可视化）
│   └── triviumdb-server/   # 🌐 HTTP Server（并发读、Writer Actor、OCC、Group Commit）
├── benches/                # 性能基准套件（查询 / 索引与图基线 / 内存压力 / TSNG / Cohere1M）
├── tests/
│   ├── unit/               # 单元测试（集中管理，~311 用例）
│   ├── proptest_core.rs    # 属性测试（~2650 随机用例）
│   ├── proptest_query.rs   # TQL 解析器属性测试
│   ├── public_api_alignment.rs  # 三语言公共 API 对齐门禁
│   └── ...                 # 集成测试（并发/恢复/安全/压力/管线差分/图算法等）
├── docs/
│   ├── api-reference.md    # 完整 API 参考文档
│   ├── features.md         # 支持特性详解
│   ├── best-practices.md   # 最佳实践指南
│   ├── resource-runtime.md # 多实例共享资源与诊断
│   ├── lifecycle-snapshots.md # 实例关闭、快照与恢复
│   ├── hook-guide.md       # Hook 开发指南（C++ FFI / Rust Hook）
│   ├── tql-reference.md    # TQL 查询语言参考
│   ├── testing.md          # 测试实践说明
│   └── security.md         # 安全设计说明
├── Cargo.toml
├── pyproject.toml          # Maturin 构建配置
└── README.md

路线图

v0.1 — 核心引擎 MVP ✅

• [x] Node / Edge 数据结构 + 内存 MemTable + BruteForce 向量检索
• [x] 单文件 .tdb 序列化 + insert / link / search / delete API

v0.2 — 持久化与生态 ✅

• [x] WAL 崩溃恢复 + 后台 Compaction + mmap 零拷贝
• [x] PyO3 Python 绑定 + rayon 并行扫描 + 高级 Payload 过滤

v0.3 — 性能与跨平台 ✅

• [x] Node.js 绑定 (napi-rs)
• [x] AVX2 + FMA SIMD 加速余弦相似度

v0.4 — 认知管线 + BQ 索引 ✅

• [x] Mmap / Rom 双引擎 + 验证前置事务 (Dry-Run)
• [x] 认知检索管线（FISTA / PPR / DPP）
• [x] BQ 二进制量化索引（自动激活 + 自动重建）

v0.5 — 千万级架构 + Hook 系统 ✅

• [x] Parallel Bit-Tag Array 硬件级布隆过滤 + Zero-Ghost 墓碑复用
• [x] O(1) Reverse Hash Net 反向边查找
• [x] 检索管线 6 阶段 Hook 注入 + FFI 动态库插件
• [x] CI/CD 管线 + ASan / TSan / Miri + LibFuzzer 模糊测试；执行范围与限制见测试实践

v0.6 — TQL 查询语言 + 跨架构适配 ✅

• [x] TQL 统一查询语言（MATCH 图遍历 / FIND 文档过滤 / SEARCH 向量检索）
• [x] TQL DML 写操作（CREATE / SET / DELETE / DETACH DELETE）
• [x] 属性二级索引（O(1) 倒排查找 + TQL 自动加速）
• [x] ARM NEON SIMD 适配 + 跨平台 CI（Apple Silicon / Linux ARM64 via QEMU）
• [x] Python / Node.js 绑定 API 补全（tql_mut / create_index / get_payload 等）

v0.7 — QuIVer SOTA ANN 索引 ✅

• [x] 自研 QuIVer 近似最近邻图索引（BQ 签名 + Vamana 图导航 + 冷热分离）
• [x] 增量图维护：Insert / Delete(Tombstone) / Update 全部增量，无需全量重建
• [x] QuIVer 独立持久化（.tdb.quiver 文件，POD memcpy 极速序列化）
• [x] 事务安全的分离时间线架构（Phase 5 QuIVer Sync）
• [x] CLI 工具 triviumdb-cli（命令 tdb）：非交互命令 + REPL（Tab 补全 / 语法高亮 / 多行输入）+ 配置文件
• [x] 数据库可视化工具：终端 TUI（tdb ui，图谱力导向布局 / k-hop 展开 / 向量搜索 Playground）

v0.8 — 自由 DIY 混合查询与工程化时代 ✅（当前）

• [x] 统一 TQL 查询系统：FIND / MATCH / SEARCH、WITH 可组合管线、Prepared 参数、表达式/聚合/路径/集合代数、科学计数法和原子 SET VECTOR
• [x] 有界 Cascades 与图计算：确定性、统计感知的物理计划，内嵌 PageRank / WCC / Leiden / Betweenness / Degree / Label Propagation / SA-PPR，并通过 EXPLAIN ANALYZE 暴露估算与实际指标
• [x] 完整持久化索引体系：Hash / Ordered ART / Composite ART / Bitmap、业务图块、AC+BM25 与 QuIVer sidecar；动态 QuIVer 阈值按向量工作量在 209–834 节点间自动选择
• [x] 生产级存储与安全保证：.flush_ok v3 绑定 .tdb/.vec/.pld generation、大小与 CRC；无生产可达 panic、ReadOnly/Immutable 字节级零写、WAL/代际原子发布、查询/遍历/内存/Payload 预算 fail-closed 与真实小型故障注入
• [x] Payload 冷热分离一期：generation 化 .pld mmap raw base、内存 delta/tombstone、有界 LRU Parsed Cache、Late Materialization、ColdPayloadScan 与跨端 cache 配置
• [x] Rust/Python/Node 能力对齐：一等 TQL 值、四类属性索引、Prepared TQL、六阶段 Hook 与 FFI ABI v2，清理静默历史兼容并提供稳定迁移错误
• [x] 多实例运行管理（0.9.0-beta.1）：共享资源预算与工作池、维护保护额度、实例/维护诊断、受控关闭、一致快照及恢复，三端接口和类型声明同步提供
• [x] 工具与 Server nightly：CLI/REPL/TUI，以及隔离于 Embedded 依赖树的 HTTP Server，提供 Writer Actor、Group Commit、OCC/幂等、健康监管、索引管理、NDJSON 导入、二进制向量和跨平台发布

与现有方案对比

并发多写模型是 TriviumDB 当前明确的短板：Writer 通过进程级排他文件锁独占写路径，多读并发依赖 ReadOnly 共享锁，跨进程无锁读依赖 Immutable 不可换代际。这与 SQLite（WAL 单写）和原版 Kùzu（单进程写）同为嵌入式架构的常见取舍；需要高并发多写的场景，应选择服务端（Qdrant/Neo4j/pgvector）或分布式（SurrealDB）/MVCC 表格式（LanceDB）方案。

对比基于各家 2026-08 公开文档与官方仓库：pgvector 为 PostgreSQL C 扩展（v0.8.2，HNSW/IVFFlat + 迭代扫描过滤）；Qdrant 支持嵌入式本地模式（QdrantClient(":memory:") 或 path=，存储为目录而非单文件），并有 Rust/Python 的 Qdrant Edge 嵌入库；LanceDB 为 Rust 内核嵌入式多模态 Lakehouse（向量+FTS+SQL，无图遍历）；Kùzu 主仓库已于 2025-10 归档（团队加入 Apple，0.11.3 为最终版本），其 Cypher 支持 *SHORTEST 递归路径与 algo 扩展；Neo4j 自 5.13 起提供原生向量索引（Lucene HNSW，Cypher 25 SEARCH 子句支持索引内过滤）；SurrealDB 向量索引用 MTree/HNSW；SQLite 可用 sqlite-vec 扩展与递归 CTE 模拟部分能力。"混合查询自由度" 指能否把向量、属性过滤、图遍历、图算法、路径与集合运算在同一查询中作为可编排算子交给统一优化器——这正是 TQL WITH 管线 + Cascades 的定位。

设计哲学

1. 三合一原子性：一个 u64 ID 同时映射到向量、Payload、边表。插入原子、删除原子，永不出现 ID 不一致。
2. 嵌入式优先：数据库作为库运行在宿主进程内，应用通过 Rust、Python 或 Node.js API 管理数据与实例生命周期。
3. 全自动性能路由：按约 66.7 万向量分量工作量在 209–834 节点间动态选择阈值；低于阈值使用精确 BruteForce，达到阈值后自动构建并切换 QuIVer。
4. 可预测的性能：顺序 I/O only（WAL 追加写 + Compaction 顺序重写），SSD 寿命安全。
5. 索引即加速层：QuIVer 是可丢弃的派生数据（.tdb.quiver 独立文件），丢失后首次查询时自动重建，不依赖也不污染 WAL 真相源。
6. Rust 安全契约：mmap、SIMD、裸指针和手工 Send/Sync 路径按长度、对齐、生命周期和并发条件审核，并结合 ASan、TSan 与 Miri 验证。执行范围见安全文档与测试实践。
7. 安全至上：全引擎零 panic! / 零 unreachable!() 策略。数千个测试用例（单元 / 属性 / 模糊 / 变异 / 三语言公共 API 对齐），CI 强制 80% 行覆盖率门禁（实测值以 coverage artifact 为准），涵盖 EMI 比特翻转、WAL 截断恢复、事务预检失败等极端场景，确保在断网、断电、内存污染等恶劣条件下数据库引擎绝不崩溃。

📖 文档

学术引用说明

TriviumDB 的认知检索管线借鉴并实现了以下学术成果（均为本项目基于原始论文的独立 Rust 实现，非调用第三方库）：

1. FISTA (Fast Iterative Shrinkage-Thresholding Algorithm)：Beck & Teboulle, 2009, "A Fast Iterative Shrinkage-Thresholding Algorithm for Linear Inverse Problems", SIAM J. Imaging Sciences
2. DPP (Determinantal Point Process)：Kulesza & Taskar, 2012, "Determinantal Point Processes for Machine Learning", Foundations and Trends in Machine Learning
3. SA-PPR（有限深度 Spreading Activation with Personalized Restart）：结合个性化重启思想与扩散激活；本实现不迭代至 PageRank 收敛
4. Spreading Activation：灵感来源于 Anderson, 1983, "The Architecture of Cognition" 中的扩散激活理论
5. BM25：Robertson & Zaragoza, 2009, "The Probabilistic Relevance Framework: BM25 and Beyond"
6. Vamana Graph：Subramanya et al., 2019, "DiskANN: Fast Accurate Billion-point Nearest Neighbor Search on a Single Node", NeurIPS 2019（QuIVer 的图导航层基于 Vamana 剪枝策略的独立 Rust 实现）
7. Binary Quantization：Gong et al., 2012, "Iterative Quantization: A Procrustean Approach to Learning Binary Codes", CVPR（QuIVer 的 BQ 签名层基于符号位量化思想）

以下为本项目自研的数据结构与算法命名：

• QuIVer（Quantized Index for Vector Retrieval）：自研 ANN 图索引，采用 BQ 快速构图、无训练 SM-L2 导航与余弦精排
• TSNG（Tri-Signal Navigation Graph）：三信号（向量 / 属性 / 图）联合导航的混合检索研究线，提供多 AccessPath 执行策略与 exact ground truth 评测
• Parallel Bit-Tag Array（行级布隆特征阵列）：基于布隆过滤器思想的 JSON 快速过滤机制
• Reverse Hash Net（双向哈希边表）：O(1) 反向边查找的哈希索引结构
• Zero-Ghost Node：基于 FreeList 的墓碑复用策略，消除删除节点的幽灵引用
• 边特异性强化 / 不应期机制：自研的图扩散能量调控策略
• 分离时间线架构（Separated Timeline）：QuIVer 事务安全策略，利用 Infallible Apply 特性避免图索引回滚

📝 引用 QuIVer

如果您在研究中使用了 QuIVer 或 TriviumDB，请引用我们的论文：

@article{quiver2026,
  title   = {QuIVer: Rethinking ANN Graph Topology via Training-Free Binary Quantization},
  author  = {Xiao, Wenxuan and Wang, Zhiyou and Li, Chengcheng},
  journal = {arXiv preprint arXiv:2605.02171},
  year    = {2026},
  url     = {https://arxiv.org/abs/2605.02171}
}

许可证

Apache-2.0

创造者: YoKONCy

社区

本项目已链接并认可 LINUX DO 社区。

🌟 Star History