工作職責
負責基于大語言模型(LLM)的AIoT應用開發,主導RAG(檢索增強生成)、Agent(智能體)、MCP(模型上下文協議)技術在桌面機器人、AI玩具、智能終端等場景的落地,實現自然語言交互、任務規劃及多模態數據處理;
設計并實現本地化大語言模型部署方案,結合國產算力平臺(如昇騰、寒武紀)及邊緣計算芯片(如樂鑫ESP32-S3、瑞芯微RK3576/RK3588),完成模型量化(AWQ/GGUF)、顯存優化(PagedAttention)及端側推理加速;
深度集成國內云平臺(阿里云百煉、華為云昇騰AI服務、騰訊云NLP),實現模型服務的彈性擴展與高可用性,滿足數據合規性與安全隔離要求;
開發桌面機器人核心功能,包括舵機控制、傳感器融合、屏幕交互等,結合LLM實現語音問答、環境感知、行為決策等智能化能力;
與前端團隊協作,快速構建技術驗證Demo(如可視化對話系統、工具調用界面),支持產品原型設計與客戶演示。
任職要求
負責基于大語言模型(LLM)的AIoT應用開發,主導RAG(檢索增強生成)、Agent(智能體)、MCP(模型上下文協議)技術在桌面機器人、AI玩具、智能終端等場景的落地,實現自然語言交互、任務規劃及多模態數據處理;
設計并實現本地化大語言模型部署方案,結合國產算力平臺(如昇騰、寒武紀)及邊緣計算芯片(如樂鑫ESP32-S3、瑞芯微RK3576/RK3588),完成模型量化(AWQ/GGUF)、顯存優化(PagedAttention)及端側推理加速;
深度集成國內云平臺(阿里云百煉、華為云昇騰AI服務、騰訊云NLP),實現模型服務的彈性擴展與高可用性,滿足數據合規性與安全隔離要求;
開發桌面機器人核心功能,包括舵機控制、傳感器融合、屏幕交互等,結合LLM實現語音問答、環境感知、行為決策等智能化能力;
與前端團隊協作,快速構建技術驗證Demo(如可視化對話系統、工具調用界面),支持產品原型設計與客戶演示。