YMW-260604-周报-中泰

内容纲要

20260622 周一

1、开发

20260623 周二

1、开发

2、鄱阳湖算力沟通会议
参会内容:就算力问题进行沟通,

参会人员:江西员工(试用模型之后,负责梳理后提出问题)、东莞总公司人员、九江电信负责人(负责解决问题)

目前算力状况:
昇腾910B服务器4台;一台服务器配8张64GB的910B显卡。单机512GB显存。共计32 * 64 =2048GB,也就是2TB的显存总量、
模型:deepseek v4 pro。现有算力刚好够部署一个模型

痛点&解决办法:

模型调用,生成速度慢,尤其是龙虾智能体接入之后,响应更慢
1)目前显卡的算力明显不够,直接的就是从4台扩充到8台,将显存扩充到两倍。
2)10月份可以换机群,从华为昇腾的910B到910C,效果是910B性能的三倍

试用期20天已经结束,但是还需要继续试用
1)试用结束,先支付费用,延长使用,但是可以按月或者按季度支付

技术方案对比,英伟达H100和华为昇腾AI显卡
3)九江有英伟达的显卡,也可以拿出来部署集群,方便对比英伟达和华为显卡的在部署技术的优劣势。
4)目前英伟达的卡,还做不到集群,但是后期可以做适配,技术实现上没有问题

20260624 周三

1、开发

2、高管项目会议

对接开发项目(先做需求分解):
1)重大投资智能体-李
2)管理钉钉智能体-陈
3)会议管理智能体-袁
4)政企互动智能体-吕

3、重做方案,重提重大投资预立项(算力)

20260625 周四

1、更换minimax-M2.5模型为deepseek v4 flash int8 W8A8模型

2、提投资预立项的OA流程

3、信息化中台建设会议
中泰和神州(数据中台和AI底座的外部供应商)

4、开发组内部会议,给高管项目智能体排期,交代需求

20260626 周五


1、写周报

2、开发

3、参加数字化研发部门周例会,汇报AI开发小组整体开发进展

20260627 周六

1、更换minimax-M2.5模型为deepseek v4 flash int8 W8A8模型,行为失败了。原因是deepseek v4 有DSML的格式问题,openAI协议跟DSML冲突之后,就会存在这个问题。导致无法调用工具。需要切换回minimax

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部