岗位职责

1、负责大模型安全评测和研究工作；

2、大模型安全对抗技术研究，持续跟进探索前沿技术，包含大模型相关的最新学术和社区进展，跟进研究针对llm大模型的安全威胁，包括prompt注入攻击、对抗样本攻击、越狱攻击等；

3、负责大语言模型安全方向数据、算法、模型训练、模型微调等相关的安全研究与评估测试，提升大模型安全性及应对安全攻击的鲁棒性。

任职要求

1、本科及以上学历，有ai、大模型安全相关经验，计算机、人工智能等相关专业；

2、熟练掌握python/c/c++，熟悉常用的ai开发框架，具有扎实的数据结构、算法设计和机器学习理论基础；

3、具备大模型预训练、微调、推理框架设计、大模型安全风险评估一项或多项经验；

4、具备扎实的代码编写能力，有机器学习、深度学习理论基础，熟悉transformer bert主流模型，有一定实践经验优先；

5、逻辑思考能力强，善于发现和解决问题，自我驱动。