memex kb
一个用于以组织为中心的知识工作流的文档转换和发布工具包。
memex kb 最初是Google Docs→ 表示知识库转换器,并已发展成为一个更广泛的工具箱,用于将传统或平台绑定的内容转换为纯文本、版本控制和人工智能友好的格式。
如今,存储库结合了三层:
- 知识摄取 --Google Docs、Threads、Confluence、GitHub Stars和博客导出
- 结构化文档管道 --提案工作流、面向组织/ODT/HWP的转换
- 可重复使用的发布模板 --论文、演示文稿和PowerPoint模板注入工作流
指导思想很简单:
遗留内容→ 结构化文本→ 可再现的伪影→ 人类+人工智能协作
______________________________________________________________________
此存储库的用途
memex kb在以下情况下非常有用:
- 将文档转换为 标记语言, Org-模式, BibTeX, 实验, 文档, PDF,或 PPTX相邻工作流
- 充分保护结构 搜索, 版本控制,以及 人工智能辅助编辑
- 通过以下方式标准化输出 表示样式命名, 基于规则的分类,以及 模板驱动发布
- 通过以下方式保持整个工作流程的可重复性 镍片 CLI优先工具
______________________________________________________________________
当前能力
摄入/转化后端
| 后端/源 | 状态 | 主入口点 | 输出 |
|---|---|---|---|
| 谷歌文档 | 稳定 | scripts/gdocs_md_processor.py, ./run.sh gdocs-export | Markdown、DOCX、PDF、HTML、TXT |
| 线程 | 稳定 | scripts/threads_exporter.py, ./run.sh threads-export | 组织模式+图片 |
汇流出口(.doc MIME HTML) | 稳定 | scripts/confluence_to_markdown.py | 清除Markdown |
| GitHub之星 | 稳定 | scripts/gh_starred_to_bib.sh, ./run.sh github-starred-export | BibTeX |
| Naver博客 | 活跃 | scripts/naver_blog_crawler.py, ./run.sh naver-* | 表示样式组织+资产 |
| HWPX/OWPML相关工作流 | 活动 | hwpx2org/, orgadoc2odt/, proposal-pipeline/ | 面向组织、ODT、DOC、HWP的输出 |
发布/模板工作流
| 模板/管道 | 目的 |
|---|---|
templates/arxiv-acm/ | 组织模式→ ACM acmart → PDF/ArXiv就绪源代码工作流程 |
templates/presentation/ | Quarto/Reveal.js HTML演示模板 |
templates/presentation-pptx/ | 组织2pptx:将组织模式内容注入现有PPTX模板,同时保留布局/设计 |
proposal-pipeline/ | 谷歌文档→ 标记语言→ 组织模式→ ODT/DOC提案工作流程 |
______________________________________________________________________
存储库结构
memex-kb/
├── README.md
├── AGENTS.md
├── BACKENDS.md
├── DEVELOPMENT.md
├── DENOTE-RULES.md
├── run.sh # Primary command entry point
├── flake.nix # Reproducible dev environment
├── config/ # Local env/config templates
├── scripts/ # Main backend and utility scripts
│ ├── adapters/
│ ├── gdocs_md_processor.py
│ ├── threads_exporter.py
│ ├── confluence_to_markdown.py
│ ├── gh_starred_to_bib.sh
│ ├── md_to_gdocs.py
│ ├── md_to_gdocs_html.py
│ └── naver_blog_crawler.py
├── templates/
│ ├── arxiv-acm/
│ ├── presentation/
│ └── presentation-pptx/
├── proposal-pipeline/ # Proposal authoring and export pipeline
├── hwpx2org/ # HWPX/Org-related conversion utilities
├── orgadoc2odt/ # AsciiDoc/ODT conversion utilities
├── office/ # Real project working materials and samples
├── docs/ # Converted output and project notes
└── logs/ # Execution logs关键目录说明
scripts/:后端集成和转换入口点的主要位置templates/:可重复使用的论文和演示文稿入门模板proposal-pipeline/:仓库中最有主见的端到端工作流office/:实际工作示例和提案工件hwpx2org/和orgadoc2odt/:低级格式转换实验和工具
______________________________________________________________________
开发环境
此项目使用 镍片.
使用以下选项之一:
# interactive shell
nix develop
# one-off command
nix develop --command python scripts/threads_exporter.py --download-images
# recommended for regular work
direnv allow为什么尼克斯在这里?
- 可再现依赖关系
- 没有特别
pip install - 一致的Python/Pandoc/CLI工具
- 更简单的代理自动化
______________________________________________________________________
快速启动
1) 检查可用命令
./run.sh2) 按文档ID导出Google文档
./run.sh gdocs-export
./run.sh gdocs-export --format md
./run.sh gdocs-export --format docx --depth 03) 将Threads帖子导出到单个组织文件中
./run.sh threads-export --download-images
./run.sh threads-export --max-posts 5 --download-images4) 将Confluence导出文件转换为干净的Markdown
./run.sh confluence-convert document.doc
./run.sh confluence-batch ./input-dir ./output-dir5) 将GitHub Stars导出到BibTeX
./run.sh github-starred-export
./run.sh github-starred-export ~/org/resources/github-starred.bib6) 运行提案管道
./run.sh proposal-build --export-md
./run.sh proposal-merge --strip-hwpx-idx --org-tables
./run.sh proposal-export-odt7) 构建ArXiv ACM示例
./run.sh arxiv-build
./run.sh arxiv-build templates/arxiv-acm/sample.org______________________________________________________________________
模板
templates/arxiv-acm/
以下内容的完整示例:
- 组织模式创作
- 国际计算机学会
acmartLaTeX出口 - 适用于纸张起草/ArXiv提交工作流程的PDF生成
请参阅: templates/arxiv-acm/README.md
templates/presentation/
Quarto/Reveal.js演示文稿启动器,用于基于浏览器的幻灯片。
请参阅: templates/presentation/README.md
templates/presentation-pptx/
较新的 组织2pptx 必须提交或重用品牌的团队的管道 PowerPoint模板.
它没有从头开始渲染幻灯片,而是:
- 解析组织文件
- 将内容注入到现有
.pptx模板 - 保留原始幻灯片背景、徽标、布局和品牌
这在以下情况下特别有用 pandoc --reference-doc 或者基于布局名称的方法在本地化的公司模板上失败。
请参阅: templates/presentation-pptx/README.md
______________________________________________________________________
如何选择合适的工具
- 需要 干净导出的Google文档选项卡 → use
gdocs-export - 需要 社交写作存档到组织中 → use
threads-export - 需要 清理了传统Confluence导出 → use
confluence-convert - 需要 已准备好引用的GitHub Stars → use
github-starred-export - 需要 提案提交工件 → use
proposal-pipeline/ - 需要 来自Org的纸质PDF → use
templates/arxiv-acm/ - 需要 HTML幻灯片 → use
templates/presentation/ - 需要 注入现有公司PPTX的内容 → use
templates/presentation-pptx/
______________________________________________________________________
文档
| 文件 | 目的 |
|---|---|
AGENTS.md | 编码代理和维护人员的工作指南 |
BACKENDS.md | 后端特定说明和使用细节 |
DEVELOPMENT.md | 项目扩展开发指南 |
DENOTE-RULES.md | Denote样式输出的命名和结构规则 |
proposal-pipeline/README.md | 详细的提案工作流程文档 |
office/README.md | 真实世界的工作环境和示例材料 |
______________________________________________________________________
更新日志
2026-04-03--添加了org2pptx演示文稿模板
- 添加
templates/presentation-pptx/ - 引入组织模式→ PPTX模板注入工作流程使用
python-pptx - 保留品牌PowerPoint模板,而不是从头开始重新创建幻灯片
2026-04-02--添加ArXiv ACM论文模板
- 添加
templates/arxiv-acm/ - 添加组织模式→
acmart→ PDF示例管道 - 暴露
./run.sh arxiv-build
2026-03-31——Markdown到谷歌文档助手的扩展
- 添加
md_to_gdocs.py和md_to_gdocs_html.py - 优化Markdown→ Google文档导入工作流的组织/HTML/Docx路径
2026-03-31——Naver博客爬虫扩展
- 添加了列表、爬网、验证、重试、标题修复和wordmap命令
- 改进了图像处理、段塞归一化和标题清理
2026-02-15-添加GitHub Stars后端
- 添加
scripts/gh_starred_to_bib.sh - 添加
./run.sh github-starred-export - 保存的
starred_at,pushed_at,以及updated_atBibTeX输出的元数据
2026-02-03——格式转换工具包扩展
- 添加了HWPX/AsciiDoc相关工具
- 添加了EPUB→ 组织工作流程
- 添加了HTML→ EPUB → 组织实验
2026-01-29--汇流转换管道稳定
- 添加了MIME感知的Confluence导出解析
- 规范了UTF-8/NFC问题,并清理了嘈杂的标记
2026-01-21——发展环境现代化
- 迁移自
shell.nix到flake.nix - 添加
direnv整合 - 用gitleaks代替secretlint
- 改进了线程OAuth令牌管理
早期基础
- 该项目最初是一个谷歌文档→ 表示知识库转换器
- 向多后端、面向模板、AI友好的文档工作流工具包发展
______________________________________________________________________
许可证
麻省理工学院
