NLP Engineer_台達研究院(台北/新竹)

1. 模型訓練與微調

• 與團隊合作推進LLM能力邊界
• 模型蒸餾與量化技術，在保持性能的同時降低模型大小
• 設計並執行實驗流程，透過數據分析持續優化模型表現

2. LLM 推論部屬和效能優化

• 使用 vLLM、SGLang 進行部署，優化吞吐量和延遲
• 推論引擎優化；熟悉 TP、MP、Batching等策略與 GPU 資源調配機制