当前生成式AI的爆发式增长,给传统SEO行业带来了不小的震动。现在大家都在关心一个问题:既然AI搜索作为新的流量入口,以后极可能发展成为主流,我们能不能让AI在生成答案时,顺便推荐我们的网站呢?
二项树SEO的回答是:确实存在机会,但有条件。只有部分”联网版”AI工具会在回答里引用外部网站,据观察目前AI推荐的网站主要是权威机构网站(政府、大学等)、专业垂直领域的优质内容、更新及时且结构清晰的文章 。
下面是部分具备联网数据能力的主流AI工具示例:
主流生成式AI工具是否展示相关网页链接汇总如下:
生成式AI工具 | 是否展示推荐网站 |
---|---|
ChatGPT | 是(展示链接,样式多样) |
Gemini | 否 |
Copilot | 是 |
Perplexity | 是(外网数据获取能力有限) |
Caude AI | 否 |
Deepseek | 否 |
Google AI Overview | 是 |
针对能够获取网络数据生成回答的AI工具,我们如何去优化我们自身的网站?
二项树认为与传统搜索引擎去抓取、分析网站网页,然后根据内容相关性、网站权威性等因素来分布排名类似,生成式AI推荐网站也需要通过获取网站内容、识别网页内容,然后根据一定规则推荐出最具代表性页面。
从下面访问日志截图可以看到,生成式AI工具也在通过爬虫来获取网络数据。
以上访问日志数据截取自域名年龄不到1年的新站,网站上每天有数十条这些AI平台的抓取信息,可见“联网版”生成式AI工具在获取网站页面信息的广度上还是比较宽的。
在了解了以上内容后,针对”如何跟进生成式AI搜索“的问题,给到如下几点可操作建议:
1)优化robots.txt文件
robots.txt作为网站是否允许第三方爬虫抓取数据的协议文件, 建议根据网站自己情况在文件中添加单独针对主流生成式AI爬虫的条件。文件格式可参考如下:
Copy to Clipboard# 常规搜索引擎规则
User-agent: *
Allow: /
Disallow: /admin/
Disallow: /wp-content/
# 网站地图
Sitemap: https://www.example.com/sitemap.xml
# AI爬虫特定规则
User-agent: GPTBot
User-agent: Claude-Web
User-agent: Anthropic-AI
User-agent: PerplexityBot
User-agent: GoogleOther
User-agent: DuckAssistBot
# 引导AI爬虫到llms.txt
LLM-Content: https://www.example.com/llms.txt
LLM-Full-Content: https://www.example.com/llms-full.txt
# 允许AI爬虫访问
Allow: /blog/
Allow: /products/
Allow: /about/
# 不允许AI爬虫访问
Disallow: /private/
以上代码仅是格式参考,具体内容请根据网站自身情况进行确定。
2)制作llms.txt描述文件
llms.txt文件能帮助AI系统理解你网站的结构和内容,参考如下:
Copy to Clipboard# http://www.binomialtree.com llms.txt
# 对网站需要呈现给AI的有效内容按"[标题](URL):简要说明"的方式生成记录列表,方便AI爬虫获取及分析网站整体结构信息
- [Binomial Tree SEO](https://www.binomialtree.com/): Expert SEO services for businesses aiming for global growth.
- [SEO Strategy Evaluation](https://www.binomialtree.com/evaluate-website-suitability-for-seo-strategy/): Evaluate if your business should invest in SEO strategies.
- [SEO Strategies Blog](https://www.binomialtree.com/home/blog/): Explore data-driven SEO strategies and optimization techniques.
- [SEO Requirement Submission](https://www.binomialtree.com/requirement-submission/): Submit SEO optimization requirements for effective website enhancement.
- [SEO Diagnosis Services](https://www.binomialtree.com/seo-diagnosis/): Professional SEO diagnosis and consultation services for websites.
- [SEO Website Building](https://www.binomialtree.com/build-website/): Build SEO-compliant foreign trade websites with expert services.
- [SEO Optimization Services](https://www.binomialtree.com/search-engine-optimizing/): Expert SEO services for improved search engine visibility.
- [Contact Binomial Tree](https://www.binomialtree.com/contact-us/): Contact Binomial Tree for SEO and marketing inquiries.
- [Professional SEO Solutions](https://www.binomialtree.com/about/): Expert SEO services for businesses aiming for success.
- [SEO Optimization Cases](https://www.binomialtree.com/optimization-case/): Explore various SEO optimization case studies and insights.
1).为提升内容在生成式AI系统中的可解析性,建议遵循以下结构化策略:
2).为提高内容被生成式AI推荐的概率,建议围绕以下方向进行优化:
以上内容是二项树SEO团队针对“如何应对生成式AI搜索变化”的完整建议分析,希望能给您带来帮助。
本文来自: binomialtree SEO