
这篇的前提是你已经决定外包
要不要外包本身是另一个问题,写在自己写、买现成工具,还是找服务商。这篇假设你已经过了那一关,接下来要解决的是怎么把这件事办好。
外包数据采集最贵的坑通常不在价格上,而在没提前说清楚的那几件事:数据归谁、目标站改版算谁的、返工几次算包含在内。这些在合作顺利时不重要,出问题时全是它们。
第一步:挑

五个可以直接问的问题
这五个问题不需要你懂技术,但能筛掉大部分不靠谱的:
一、能不能先做小规模测试,测试结论归不归我? 不肯先测的要谨慎。测试是用最小成本确认这件事能不能做,绕过这一步直接报价,多半是没实际跑过。
二、目标平台有哪些具体限制? 答不上来,或者说「都能抓」的,大概率没实际跑过。真做过的人会告诉你单次查询上限多少、哪些字段在详情页、翻页能翻多深。
三、交付里有没有来源链接和采集时间? 没有这两项的数据,出现争议时你无法自证。这是判断专业程度最快的一个问题。
四、关键字段的完整率大概多少? 承诺「字段都会有」的要警惕。多数字段的填充率是平台的客观情况,不会因为多花钱而提高——肯说实话的人会给你一个区间。
五、哪些需求你们不接? 一个连边界都说不清的服务商,风险最终会落到你身上。
这五个问题的完整版和判断标准,写在关于我们。你可以拿同一套问题去问任何一家,包括我们。
一个反直觉的判断
主动劝你别做的,通常更可信。
如果你的需求是一次性的、量不大、目标站结构简单,一个诚实的服务商会告诉你自己做更划算——因为接下来对双方都没意思。听到这种回答不要觉得对方不专业,恰恰相反。
第二步:谈

报价差三倍,先别砍价
三家报价差很多,最常见的原因不是有人黑心,是三家理解的需求不一样。
同一个「一万条商家名单」,可以是:
- 列表页上就有的字段,一次搜索翻页就完事
- 每条都要点进详情页取联系方式,请求量大一到两个数量级
- 还要跨多个来源交叉去重,工作量再翻一倍
报价差三倍,通常是这三种理解各占一家。
正确做法不是压价,是把需求写死之后让三家重新报。需求怎么写才够死,写在一份可执行的数据需求应该包含什么——把那七项填完发过去,收到的报价才有可比性。
必须提前写清楚的五件事
这五条在合作顺利时用不上,出问题时全靠它们:
一、数据所有权与保密。 交付给你的数据你能不能自由使用、服务商能不能转售给别人、你的需求内容会不会被用于别处。这不是行业默认,要明确说。
二、返工的边界。 交付后发现口径不对,改几次算包含在内、超出之后怎么算。不定这条,双方对「应该免费改」的理解会差很远。
三、目标站改版怎么办。 周期性项目一定会遇到。合理的约定是约定周期内的结构维护由服务商承担,但目标站做了根本性改动(比如整体转到登录后可见)时双方重新评估。留到发生时再谈通常谈不拢。
四、付款节点。 测试阶段不收费、通过后按里程碑付,比一次性全额预付合理。要求全额预付且不肯先测试的,风险在你这边。
五、交付物到底包括什么。 除了数据文件本身,有没有字段说明、完整率统计、去重规则说明、已知限制清单。只给一个表格文件不算完整交付,出问题时你无从判断是数据错了还是理解错了。
不该谈的那部分
有些东西不管出价多少都不该做,看到对方肯接反而要小心:
- 绕过登录、付费墙或验证机制
- 用你提供的账号登录去采集
- 挖掘个人姓名、职位、私人邮箱与手机号
- 以规避平台风控为目的的需求
肯接这些的服务商,也肯把你的数据卖给别人。完整的边界说明写在海外公开数据采集的合规边界。
第三步:验

条数达标不等于数据可用。 验收时真正该看的是这四项:
- 必须有字段的填充率 —— 和测试阶段给的数字对不对得上
- 去重口径执行得对不对 —— 按约定的规则抽查几十条
- 来源链接可点开 —— 随机抽十条点进去,看内容和数据对不对得上
- 采集时间是否合理 —— 快照字段有没有带时间,时间跨度是不是符合约定
三步验收流程和每一步具体怎么查,写在数据交付应该按什么标准验收。
周期性项目还要多验一项
第二次交付到手时,把两次的各字段空值率做个对比。
正常情况下这个比例是稳定的。如果某个字段从九成掉到两成,那不是数据源变了,是采集规则失效了——而且很可能没人发现,因为脚本不报错。这一项五分钟就能查,但省掉的麻烦很大。相关的判断写在自己写的爬虫被封了,接下来该判断什么。
一份可以直接照抄的确认清单

签之前把这几行过一遍,缺哪条补哪条:
- 小规模测试是否免费,结论是否归我
- 关键字段的实测完整率是多少
- 交付物清单:数据文件、字段说明、完整率统计、去重规则、已知限制
- 数据所有权与保密约定
- 返工次数与边界
- 目标站改版的处理方式与费用归属
- 付款节点与比例
- 周期性项目的更新频率与失败处理
这份清单和需求模板配合用:模板负责说清你要什么,清单负责说清双方各自负责什么。
什么情况下外包本身就不合适

- 需求还没想清楚 —— 外包不能替你定义问题,需求含糊会在沟通上耗掉比省下来更多的时间
- 一次性的小量需求 —— 走一遍采购流程比自己做还慢
- 要的是采购意向、精准客户这类判断 —— 公开数据给不了,任何声称能给的都要警惕
- 核心内容在登录墙后 —— 换哪家服务商结果都一样,限制不在执行方
前两种自己做更划算,后两种要改的是需求本身。判断标准写在小规模测试到底测什么。
