内容纲要
20260622 周一
1、开发
20260623 周二
1、开发
2、鄱阳湖算力沟通会议
参会内容:就算力问题进行沟通,
参会人员:江西员工(试用模型之后,负责梳理后提出问题)、东莞总公司人员、九江电信负责人(负责解决问题)
目前算力状况:
昇腾910B服务器4台;一台服务器配8张64GB的910B显卡。单机512GB显存。共计32 * 64 =2048GB,也就是2TB的显存总量、
模型:deepseek v4 pro。现有算力刚好够部署一个模型
痛点&解决办法:
模型调用,生成速度慢,尤其是龙虾智能体接入之后,响应更慢
1)目前显卡的算力明显不够,直接的就是从4台扩充到8台,将显存扩充到两倍。
2)10月份可以换机群,从华为昇腾的910B到910C,效果是910B性能的三倍
试用期20天已经结束,但是还需要继续试用
1)试用结束,先支付费用,延长使用,但是可以按月或者按季度支付
技术方案对比,英伟达H100和华为昇腾AI显卡
3)九江有英伟达的显卡,也可以拿出来部署集群,方便对比英伟达和华为显卡的在部署技术的优劣势。
4)目前英伟达的卡,还做不到集群,但是后期可以做适配,技术实现上没有问题
20260624 周三
1、开发
2、高管项目会议
对接开发项目(先做需求分解):
1)重大投资智能体-李
2)管理钉钉智能体-陈
3)会议管理智能体-袁
4)政企互动智能体-吕
3、重做方案,重提重大投资预立项(算力)
20260625 周四
1、更换minimax-M2.5模型为deepseek v4 flash int8 W8A8模型
2、提投资预立项的OA流程
3、信息化中台建设会议
中泰和神州(数据中台和AI底座的外部供应商)
4、开发组内部会议,给高管项目智能体排期,交代需求
20260626 周五
1、写周报
2、开发
3、参加数字化研发部门周例会,汇报AI开发小组整体开发进展
20260627 周六
1、更换minimax-M2.5模型为deepseek v4 flash int8 W8A8模型,行为失败了。原因是deepseek v4 有DSML的格式问题,openAI协议跟DSML冲突之后,就会存在这个问题。导致无法调用工具。需要切换回minimax