清華NLP實驗室 AI Infra 團隊招募

發(fā)布于：03-14

清華NLP實驗室 AI Infra 團隊在高性能計算、分布式計算、模型風洞、端側技術方面積累深厚，致力于構建全球領先的大模型基礎設施。部分代表性成果包括：

　　?開源AI Infra工具鏈：開源了系列大模型訓練、微調(diào)、壓縮的高效框架（BMTrain、BMInf、BMCook）

　　?模型風洞技術：構建了全流程的模型科學化訓練技術：模型風洞，支持「小鋼炮」MiniCPM系列大模型的高效訓練、高效落地與高效推理，MiniCPM系列端側模型累積下載量超過400萬次

　　?端側AI部署：支持高通、聯(lián)發(fā)科、英偉達、愛芯、瑞芯微、蘋果等端側芯片的全棧部署，擁有全球領先的端側AI部署經(jīng)驗

　　?更多研究成果見

　　??https://github.com/openbmb

　　研究矩陣

　　?強化學習算法研發(fā)（高性能領域） - 支撐智能高性能計算

　　1. 研發(fā)面向高性能計算的強化學習算法，用強化學習等技術實現(xiàn)算子編程、算法實現(xiàn)、模型風洞、數(shù)據(jù)配比和資源調(diào)配的全智能化。

　　2. 面向AI4HPC需求，搭建訓練框架，構建高質量標注數(shù)據(jù)

　　?模型風洞 - 支撐科學化模型研發(fā)平臺

　　1. 構建大模型訓練風洞，實現(xiàn)自動化的風洞實驗/訓練任務規(guī)劃，包括超參搜索規(guī)劃、Scaling驗證規(guī)劃、數(shù)據(jù)配比規(guī)劃和并行計算規(guī)劃等

　　2. 設計好的評測指標，提升模型風洞實驗置信度和預測能力

　　?高性能計算研發(fā) - 支撐模型訓練框架

　　1. 持續(xù)改進訓推框架算力利用率，支撐多模態(tài)、強化學習、低精和稀疏等能力

　　2. 面向模型架構創(chuàng)新，進行高效算子開發(fā)需求

　　3. 面向AI4HPC需求，構建高質量標注數(shù)據(jù)，搭建訓練框架，使AI具備進行高性能計算開發(fā)的能力

　　?端側前沿技術研發(fā) - 支撐模型高效應用

　　1. 利用極低精度和稀疏卸載等技術，實現(xiàn)低功耗模型開發(fā)

　　2. 開發(fā)高效跨平臺統(tǒng)一端側部署框架

　　3. 探索存算一體、FPGA等平臺上端側模型技術潛力

　　?分布式計算研發(fā) - 支撐訓練監(jiān)控與仿真平臺

　　1. 持續(xù)改進強化學習訓練框架，支持廣域任務學習和模型制備自主演化

　　2. 基于持續(xù)集成和配置代碼分離理念，逐步完成訓練基礎設施重構

　　3. 構建高密度低成本的監(jiān)控中臺

　　人才招募

　　?博士后 / 研究員

　　關鍵要求

　　博士學位，計算機科學與技術專業(yè)背景者優(yōu)先考慮；

　　具備人工智能相關基礎理論、模型與算法等研究經(jīng)驗，熟練掌握當前機器學習、深度學習、強化學習等領域的技術，對相關領域有濃厚的研究興趣，并有相關的優(yōu)秀論文、專利、科技研究報告等成果；

　　在人工智能領域發(fā)表過高水平學術論文或具有代表性成果，有ACL、EMNLP、NeurIPS、ICML、ICLR、AAAI等計算機相關頂級會議論文發(fā)表者優(yōu)先考慮。

　　你將收獲

　　博士后薪資、保險等按照國家和清華大學博士后管理辦法執(zhí)行，外加實驗室績效獎勵；

　　優(yōu)秀人才推薦申請各類博士后支持計劃，包括博士后創(chuàng)新人才支持計劃、清華大學“水木學者”計劃、博士后科學基金項目、博士后國 (境)外交流項目等。具體信息請查詢清華大學博士后官網(wǎng)。

　　?實習生

　　關鍵要求

　　能長期參與實驗室的科研工作（6個月以上）；

　　思維活躍、勇于創(chuàng)新，具有強烈的技術創(chuàng)新和研發(fā)熱情、責任心強、工作勤奮；

　　有較強編程能力者優(yōu)先，有深度學習或自然語言處理等相關研究經(jīng)驗者優(yōu)先。

　　成長計劃

　　大模型科研經(jīng)驗及優(yōu)秀團隊學術交流機會；

　　AI Infra大模型專業(yè)知識；

　　參與發(fā)表大模型相關頂會文章與開發(fā)前沿開源項目；

　　實驗室認證的實習證明和導師推薦機會。

　　加入我們

　　報名郵箱地址：thunlp@163.com

　　郵件主題：崗位類型+方向+姓名（例：研究員+分布式計算+張三）

　　郵件中應包含：

　?。?）應聘申請，包括本人意愿、工作設想、預期目標。

　?。?）本人簡歷（個人履歷應包含第一學歷至今，附近照）。

　?。?）充分反映本人學術水平的有關材料，包括發(fā)表論文及收錄情況、獲獎情況、主要負責和參與課題情況等。

　　?更多信息請訪問實驗室招聘門戶

　　??https://nlp.csai.tsinghua.edu.cn/join_us/

　　關于我們

　　清華大學自然語言處理與社會人文計算實驗室（TsinghuaNLP）成立于 20 世紀七十年代末，是國內(nèi)開展自然語言處理研究最早、深具影響力的科研單位，也是中國中文信息學會計算語言學專業(yè)委員會及中國人工智能學會因果與不確定性人工智能專業(yè)委員會的掛靠單位。實驗室在學術總體帶頭人孫茂松教授及學術方向帶頭人劉洋教授、劉知遠副教授的帶領下，圍繞以中文為核心的自然語言處理，在語言大模型、跨模態(tài)大模型、中文信息處理、機器翻譯、知識圖譜、智慧教育、社會人文和藝術計算等方面開展系統(tǒng)深入的研究，在國內(nèi)外具有較大的學術影響。近年來，實驗室承擔了國家 973 項目、國家重點研發(fā)項目、國家社會科學基金重大項目等多項重要研究任務，并與騰訊、華為等企業(yè)建立密切的學術合作關系。

　　Website：http://nlp.csai.tsinghua.edu.cn/

　　Email：thunlp@163.com

　　GitHub：https://github.com/thunlp

　　https://github.com/OpenBMB

　　Twitter：https://twitter.com/TsinghuaNLP