使用kimi大模型开发招投标爬虫程序(2)

代码 爬取 Kimi 编程 爬虫
发布于 2024-09-29
1712

我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。

扫码阅读
手机扫码阅读

文章主旨:

通过与AI助手合作完成爬虫项目,总结使用大模型辅助编程的经验与反思。

关键要点:

  • 优化原有代码并增加定时爬取功能,但未能成功解决问题。
  • 排查搜索关键词、网络请求及编码问题,未找到导致无法获取项目链接的原因。
  • 尝试爬取新网站成功,但因反爬虫机制导致电脑无法访问该网站,强调爬虫需遵守规范。
  • 总结与AI助手合作编程的流程与效果,认为大模型可提高效率但需编程基础。
  • 对AI取代程序员的观点提出反驳,认为程序员仍是研发核心,AI是辅助工具。

内容结构:

  1. 项目背景与实践:

    基于上次代码,尝试优化爬虫功能,增加定时爬取模块,并对代码运行进行调试。

    排查搜索关键词、网络请求等问题未果,最终通过切换目标网站成功爬取中标信息,但因反爬虫机制导致电脑被限制访问。

  2. 与AI助手的合作过程:

    通过提问、代码运行、报错反馈与反复优化的合作方式,与Kimi(一款AI助手)完成部分问题解决。

  3. 对AI辅助编程的看法:

    总结阿里云使用AI编程的新闻,认为AI辅助编程能提高效率,但程序员仍是核心,AI无法完全取代人类的创造性与系统设计能力。

    强调编程基础对使用AI工具的重要性,以及AI对代码片段优化的优势。

  4. 关于爬虫规范的警示:

    通过实践发现爬虫有风险,需遵守网站的反爬虫规则,以避免被限制访问或引发法律问题。

文章总结:

该文通过具体编程实践与AI合作经验,总结出AI在编程中的辅助作用,同时警示爬虫操作的风险,建议保持技术规范与编程基础。

CC的个人笔记

一些个人的想法和碎碎念。 学习笔记。 知识的搬运工和加工者

14 篇文章
浏览 22.4K

还在用多套工具管项目?

一个平台搞定产品、项目、质量与效能,告别整合之苦,实现全流程闭环。

加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线