欢迎光临青海公益网!

今天是 2024年09月19日 星期四

关注社会热点

一起实现我们的中国梦

当前位置: 首页 > 科技

兼容异构大模型、国产算力,蚂蚁数科SOFAStack发布大模型服务平台

6月28日,伴随大模型落地从通用技术进步逐步迈向行业可用,蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。

据介绍该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用,助力企业跑完企业AI应用业务落地的最后一公里。

“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚指出,“云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。”

“对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。”蚂蚁数科云原生产品资深总监马振雄介绍。

据了解,基于SOFAStack多云兼容属性,AI Max具备两层核心特性:

在资源层,支持多种国产GPU算力平台纳管部署,企业按需灵活使用资源,使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;

在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过程。

当企业开始构建大模型应用,还需要结合具备行业特性的业务经验。针对金融行业场景,SOFAStack融合金融助理支小助的最佳实践,包含其模型训练、推理能力、智能体研发等方面,可以帮助机构一键生成自身业务特色的智能体应用。过去9年,SOFAStack助力130家金融机构完成云原生架构转型。

“在大模型时代,SOFAStack可以承担PaaS在多云时代扮演的角色——通过构建AI原生软件服务,成为连接算力与应用的中坚力量。”蚂蚁数科云原生事业部总经理王磊表示。

当天,SOFAStack与行云创新、AutoMQ、联创集团、谐云科技等生态伙伴签约,将共建多云、多模型生态,加速大模型在各行业落地。

自今年3月份独立化运营以来,蚂蚁数科悄然推进AI toB战略,SOFAStack、蚁盾等多个代表性产品均发布了大模型相关服务,积极借助AI技术助力产业智能化升级。

AI异构数科智能体 新浪众测 新浪众测 新浪科技公众号 新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

相关新闻
本文来源于网络,不代表青海公益网立场,转载请注明出处
我要收藏
0个赞
转发到:
推荐阅读
  • 快科技9月18日消息,据报道,小鹏汽车的增程式车辆已在规划当中,最快明年下半年量产。有媒体曝光的小鹏广州工厂规划图显示,小鹏广州工厂二期将投产A、B、C三款车型,年产能各10万辆,其中B车型是小鹏首款插电混动车型。B车型的白车身长宽高510[全文]
    2024-09-19 03:56
  • 探索超好玩的卡牌单机游戏大全:在这个精彩纷呈的世界里,集结策略、冒险与创新,无论是策略大师还是剧情爱好者,都能找到属于你的那一张梦幻卡牌。从经典之作到新兴潮流,每款游戏都蕴含独特魅力,带你开启一段深度沉浸的单机卡牌之旅。立即加入,体验无尽的[全文]
    2024-09-19 03:52
  • 快科技9月18日消息,近日,有汽车博主爆料称,她被特斯拉追讨7700多元钱,原因是她买车两年后,没有按规定行驶到2万公里。博主介绍,前两年,购买30万以内的新能源车型,国家给予购车补贴,但是对于非私人购买或用于营运的新能源乘用车,有行驶里程[全文]
    2024-09-19 03:42
  • 温饱不愁,先发展自己;饥寒交迫,抱团活下来再说。21世纪经济报道见习记者 焦文娟 广州报道四年前,发家于河北保定的自主品牌长城和德系血统的豪华品牌宝马有一段佳话。2019年12月,在MINI品牌需要全面电动化的时刻,宝马与长城汽车合资成立了[全文]
    2024-09-19 03:39
腾讯云秒杀
阿里云服务器

Copyright 2003-2024 by 青海公益网 qh.shxwrx.cn All Right Reserved.   版权所有

未经授权请勿转载 | 网站所有内容来源于网络,如有侵权联系我们删除。