Dotscience将AI平台的DevOps引入Kubernetes

2023-02-07 05:56:14 互联网

(资料图片仅供参考)

Dotscience今天宣布将提供一个DevOps平台，该平台可加速Kubernetes集群上可用的人工智能(AI)模型的构建和部署。

公司首席执行官卢克·马斯登(Luke Marsden)表示，许多组织开始采用AI原生模型，以便更轻松地在本地或公共云环境中部署这些模型。AI模型被部署为在Kubernetes集群中运行的Docker映像。

Dotscience正在简化训练AI模型的过程，然后通过其Dotscience Kubernetes Runner平台将它们部署在推理引擎上。然后，可以使用Prometheus和基于Grafana的仪表板实例对这些模型进行连续监视，而Grafana也可以使用这些仪表板。

Dotscience还宣布已与S&P Global结成联盟，两家公司将根据此联盟共同定义一套构建和部署AI模型的最佳实践。标普全球选择与Dotscience合作，原因是它发现至少一半的AI模型由于需要建立健壮的数据管道和在本地笔记本电脑上运行的AI模型实例等问题而未能通过孵化阶段。在生产环境中运行的服务器上。

阻碍AI采用的两个最大障碍是，大多数数据科学团队没有一套可重复的流程来构建和部署AI模型。如今，许多组织都充斥着未与应用程序一起部署的AI模型，这是因为缺少将AI模型交给应用程序开发人员团队的定义流程。

随着发现新的相关数据源，更具挑战性的是，其中许多模型都需要更新，而如果没有一套最佳的DevOps实践，则很难实现。

最后，Marsden指出，许多已部署的AI模型都在模型中嵌入了偏差，导致许多偏差在部署后会回滚。

Marsden表示，由于所有这些问题，面向AI的DevOps(也称为机器学习(MLOps))正在成为一门学科，并且组织处于拥抱AI的前沿。Dotscience通过提供管理构建和部署过程的持续集成/连续部署平台，努力使采用DevOps for AI更容易。可以通过公司提供的图形界面，Python库或一组命令行界面(CLI)工具部署AI模型。

就AI模型而言，显然还处于初期。但是，鉴于许多AI项目的雄心勃勃，如果AI模型不符合期望，组织就需要能够快速失败。他们面临的挑战不仅在于构建AI模型，而且在于寻找以工业规模部署和更新这些AI模型的方法。

标签：可以使用应用程序生产环境