亲爱的师生朋友们:
继校园智能小助手DeepSeek上线、本地个人知识库搭建功能发布后,信息技术中心再添重磅服务——本地AI模型API接口正式开放申请!无论您是教学科研需要智能辅助,还是希望将AI能力融入业务系统,现在都可以通过简单申请,解锁学校本地算力平台上的多款AI模型。
一、强劲算力,坚实底座
本次部署的本地AI算力平台,配备36张英伟达L20GPU,为模型运行提供充沛的算力保障:
显存总量:36×48GB=1,728GB(约1.7TB)
总算力:FP8/INT8精度下单卡提供239TFLOPS,36张总计8,604TFLOPS(约8.6PFLOPS)
这一算力规模可支撑大规模模型推理、多用户并发调用及后续更多模型的快速部署,为全校师生提供稳定、高效的AI服务。
二、我们为您准备了哪些AI能力?
目前,已部署6款主流AI模型,覆盖从文本推理到多模态理解的多种场景:
Qwen3-32b:推理模型LLM,可理解复杂问题并生成高质量文本回答,适用于智能问答、内容生成等场景。
Qwen3-Embedding-8B:向量嵌入模型,可将文本转化为向量表示,用于语义检索、文本相似度计算等任务。
Qwen3-Reranker-8B:重排序模型,可对检索结果进行精细化排序,提升信息检索的准确性与相关性。
Qwen3-VL-32B-Thinking:多模态视觉理解模型,能够同时理解图像与文本,支持图像问答、图文内容分析等应用。
Qwen3-asr-1.7b:语音转文本模型,可将语音内容实时或离线转换为文字,适用于会议记录、课堂转录等场景。
Qwen3-tts-12hz-1.7b-customvoice:文本转语音模型,可将文字内容转换为自然流畅的语音,支持定制化音色,用于语音播报、有声内容生成等。
如果您有上述列表之外的其他模型需求,也欢迎提出申请,信息技术中心将根据资源情况评估并协助部署。
三、两种服务,按需申请
服务一:现有模型API接口申请
针对已部署的模型,您可以直接申请API接口,获取密钥后即可通过代码调用,将AI能力快速集成到您的课程辅助系统、科研实验或管理业务中。
服务二:新模型部署申请
如果您的研究或教学需要使用其他模型,可提交新模型部署申请。信息技术中心将根据算力资源、模型兼容性及使用价值进行评估,优先支持与教学科研紧密结合的需求,并协助完成部署与接口开放。
申请有关事宜请查看学校OA部门文件。
四、持续建设,智领未来
信息技术中心将根据使用反馈和学校发展需求,逐步扩充算力资源、引入更多优质模型,并定期组织技术培训与交流活动。您的每一次使用与建议,都将帮助我们更好地完善服务。
知识永不落幕,智慧永续传承。让我们共同构建贵交大师生的智能学术生态,让AI能力真正服务于教学、科研与管理——现在,开启您的AI应用之旅吧!
一审:费 鸿
二审:黄家琴
三审:程 序