职位解读
大模型评测工程师是北京捷科智诚科技有限公司上海分公司在杭州上城发布的通用岗位,薪资范围12-20K。该岗位要求3-5年经验、本科学历,工作地点位于杭州上城。北京捷科智诚科技有限公司上海分公司作为相关企业,其招聘节奏侧面反映该行业在杭州的人才需求热度。企业在该岗位的招聘活跃度,往往反映其在对应城市与行业的人才需求热度,可作为择业参考。岗位职责包括:评测集构造:参与通用方向大模型评测集/benchmark 的构造,内容包括但不限于评测集体系建设、题目构造、参考答案和/或评分标准撰写、题目质检、答案校验、论文写作等,确保评测集合理、准确、有区分度。 测试和分析:参与模型评测,完善评测链路和体系,分析模型回复,进行错误归因,总结。任职要求为:学历要求:本科及以上学历 学科背景:专业不限(CS 类专业,文科专业,STEM 等学科皆可) 行业经验:有模型评测经历,熟悉常见评测方法与指标,熟悉主流大模型。 综合素质:具备优秀的学习能力,问题拆解。
12K-20K
岗位职责
评测集构造:参与通用方向大模型评测集/benchmark 的构造,内容包括但不限于评测集体系建设、题目构造、参考答案和/或评分标准撰写、题目质检、答案校验、论文写作等,确保评测集合理、准确、有区分度。
测试和分析:参与模型评测,完善评测链路和体系,分析模型回复,进行错误归因,总结大模型在相关知识与技能、通用推理及问题解决方面的薄弱环节,沉淀典型案例和改进建议,与算法、产品、数据团队协作,形成评测、数据与模型优化闭环,持续提升模型在通用方向的准确性、可靠性与专业表现。
跟踪业界 SOTA 模型和 benchmark 动态,学习前沿论文与资讯,以指导和优化评测集构造。
协助完成评测项目管理与交付,支持任务拆解、进度跟踪、质量抽检、问题记录及跨团队协作,确保数据生产和评测工作高质量完成。
职位要求
学历要求:本科及以上学历
学科背景:专业不限(CS 类专业,文科专业,STEM 等学科皆可)
行业经验:有模型评测经历,熟悉常见评测方法与指标,熟悉主流大模型。
综合素质:具备优秀的学习能力,问题拆解能力,表达沟通能力,跨团队协作能力,自驱力,多线程任务处理能力。
兴趣动机:对 AI 行业和大模型有强烈兴趣,有志于从事 AI/大模型行业。
加分项
参与或主导过评测集构造,有题目构造、测试、结果分析经验。
代码能力。使用代码进行数据处理、自动化评测、结果分析等。
还没有该企业的面试经验,快来补充第一份面经~
我来分享面试经验北京捷科智诚科技有限公司上海分公司 薪资分享(1)
晒薪资7K/月 · 经验不限 · 学历不限
大模型评测工程师
12K-20K