Agent Skills
› NeverSight/learn-skills.dev
› firecrawl
firecrawl
GitHub提供专业网页抓取与数据提取能力,支持单页抓取、结构化数据提取、批量爬取及搜索抓取。通过调用Firecrawl API脚本实现,适用于需要获取复杂网页内容或结构化数据的场景。
Trigger Scenarios
用户需要从网页中提取结构化数据
用户需要批量爬取网站内容
用户需要抓取动态渲染的网页
用户希望通过关键词搜索并抓取相关内容
Install
npx skills add NeverSight/learn-skills.dev --skill firecrawl -g -y
SKILL.md
Frontmatter
{
"name": "firecrawl",
"description": "专业网页抓取和数据提取。使用 Firecrawl API 抓取网页、提取结构化数据、批量爬取网站。当用户需要抓取复杂网页、提取结构化数据、批量爬取时使用此技能。",
"allowed-tools": "Bash, Read, Write, Edit"
}
Firecrawl 网页抓取
功能说明
此技能使用 Firecrawl API 提供专业网页抓取能力:
- 单页抓取(支持动态内容)
- 结构化数据提取
- 批量网站爬取
- 搜索并抓取
使用方式
1. 抓取单个网页
./scripts/firecrawl.sh scrape <url> [format]
- format: markdown (默认), html, text, json
2. 提取结构化数据
./scripts/firecrawl.sh extract <url> <schema>
3. 批量爬取网站
./scripts/firecrawl.sh crawl <url> [max_pages]
4. 搜索并抓取
./scripts/firecrawl.sh search <query> [limit]
API Key
存储在: pass show api/firecrawl
示例
抓取 Polymarket 页面
./scripts/firecrawl.sh scrape "https://polymarket.com/event/fed-decision-in-march-885"
提取产品信息
./scripts/firecrawl.sh extract "https://example.com/product" '{"name": "string", "price": "number"}'
搜索 AI 新闻
./scripts/firecrawl.sh search "latest AI news" 5
注意事项
- Firecrawl 有使用限制(取决于套餐)
- 复杂网页可能需要更长的处理时间
- 某些网站可能有反爬虫机制
Version History
- e0220ca Current 2026-07-05 21:53


