X ingest
把中文全渠道内容(抖音 / B站 / 小红书 / 公众号 / X / 播客)采集进个人知识库的 13 个 AI Skill:图文存图、视频转文字稿、字幕优先免 GPU,附带知识库 MCP server。 | Ingest Chinese content into your personal knowledge base — image/video routing, subtitle-first transcription, and a KB MCP server.
npx -y skills add chubbyguan/chubbyskills --skill x-ingestAssembled from the repository path, not quoted from the project. Check it against their README if it does not work.
What its author says it does
Copied from the file, not written here
X(Twitter) 推文采集 → 统一 frontmatter Markdown。自动区分图文与视频: 图文下载图片本地嵌入,视频提取直链转成文字稿。无需登录(走官方嵌入端点)。
SKILL.md
3.6 KB, as published. Nobody here has run it
X(Twitter) 推文采集 Skill
把 X 推文抓成结构化 Markdown 入库。自动区分图文与视频笔记:图文 → 下载图片本地嵌入; 视频 → 像抖音那样转成文字稿。通过 X 官方嵌入用的 syndication 端点采集,无需登录、无需 API Key。
环境要求
# 图文采集零依赖(仅 Python 标准库)
# 视频推文转录需要(与抖音/B站/小红书同一套依赖):
pip install funasr modelscope torch torchaudio
# macOS: brew install ffmpeg | Ubuntu: sudo apt install ffmpeg
使用方法
# 采集推文 → 统一 frontmatter Markdown
python scripts/fetch_tweet.py "https://x.com/user/status/1234567890" -o ./out
python scripts/fetch_tweet.py "https://twitter.com/user/status/1234567890" -o ./out
python scripts/fetch_tweet.py "链接" -o ./out --no-images # 图文:只留图片链接不下载
python scripts/fetch_tweet.py "链接" -o ./out --no-video # 视频:不转录,只留视频链接
python scripts/fetch_tweet.py "链接" -o ./out --fallback-text 手动正文.txt
产出
fetch_tweet.py → 统一 frontmatter Markdown(platform: x,含 note_type: image|video|text|article),含作者(name @handle)、互动数据(赞/回复)、话题标签。按内容类型分流:
- 图文 / 纯文字推文:正文 + 图片下载到本地
<标题>.assets/并以![]()嵌入;--no-images只留链接,单张失败自动回退为链接 - 视频推文:提取最高码率 mp4 直链 → ffmpeg 抽音频 → SenseVoice 转录(
language=auto,X 中英混杂)写入## 视频文字稿;--no-video只留视频链接;缺 funasr/ffmpeg 时自动降级为存链接 - X 长文章(Article):取文章标题、预览正文、封面图(封面本地化嵌入)。⚠️ syndication 不返回长文章全文,全文需登录另抓——Markdown 会标注「预览,全文见原文链接」
⚠️ 关于可用性
采集走 cdn.syndication.twimg.com/tweet-result——X 官方嵌入推文用的公开端点,无需登录,但它是非官方契约:
- 受保护账号、已删除、成人/受限内容可能取不到
- 端点或 token 算法(
fetch_tweet.py里的make_token)若被 X 调整,需相应更新 - 目前仅支持单条推文;thread(连串推文)是未来增强方向
抓取失败时可以使用 --fallback-text:把浏览器里能看到的正文复制到 txt/md 文件,脚本仍会生成统一 frontmatter 的 Markdown,保证后续 content-enrich / 入库工作流不断。
合规声明
仅供个人学习与研究使用。请遵守 X 服务条款,控制请求频率,不要用于批量抓取、商用爬取或侵犯他人权益的场景。
衔接工作流
- 采集产物 →
knowledge-base-management入库(统一 frontmatter,按platform聚合) - 海外信息源 → 配合
industry-intelligence-radar的 X 信号扫描,沉淀情报 - 视频文字稿 →
learning-notes-automation提取知识点 + 闪卡
参考
- X 官方嵌入(syndication)端点
- FunAudioLLM/SenseVoice — 语音识别模型