一、數據團隊業務的痛點
過去一年中,我加入美圖數據團隊,雖然我的職位是開發,但平時也主動和leader以及同事聊到目前數據上的業務流程。先來說說美圖公司的數據業務吧。
1、數據業務
即然是業務,就有甲方與乙方。乙方為甲方服務。數據業務中,演算法人員是甲方,演算法同學在做AI相關的工作,跑模型需要數據,此時就會向數據團隊提出需求,eg:需要1w張嬰兒的圖片。提到任務後數據團隊的工作可分為三部分
- 數據採集:主要使用python等網路爬蟲技術
- 數據管理:數據集的管理,包括採集完的數據,標註過濾好的數據
- 數據標註:以外包模式將標註任務分配出去