开端：至顶网男同 按摩

早期剿袭生成式AI的东说念主频繁使用ChatGPT、微软Copilot和访佛的SaaS 用具，这些用具自然需要费钱，但不会带来基础风景方面的挑战。关联词，跟着企业的纵向扩展，这些挑战开动露馅出来。

那些尝试使用生成式AI的组织，频繁会使用基于云的作事（举例OpenAI的ChatGPT或者Anthropic的Claude）来栽种企业级帐户，早期的现场测试和分娩力效益可能会激发他们寻找更多契机来部署这项时间。

全球有计划公司SSA & Company诳骗贬责有计算认真东说念主Nick Kramer暗示：“企业使用生成式AI来制作实行撮要或营销内容，来岁，咱们将看到这类企业用例的剿袭和圭表化进度进一步普及，而且生成式AI将被内置到企业使用的其他诳骗中。大多数价值创造齐发生在这些方面。”

举例，Adobe的Photoshop当今具有了生成式AI功能。谷歌和微软也在他们的分娩力平台中推出了生成式AI功能，Salesforce和大多数其他企业厂商亦然如斯。不外，新功能可能会产生特等的老本，然而由厂商来应酬任何潜在基础风景挑战的。

自然每个东说念主齐不错使用ChatGPT，或者领有Office 365和Salesforce，但为了让生成式AI成为各异化身分或竞争上风，企业需要找到大概超越其他东说念主的方法，这就意味着创建定制的模子、微调现存的模子、或者使用检索增强生成（RAG）镶嵌，让生成式AI系统大概访谒最新且准确的企业信息。这意味着，企业必须在查考和部署这些系统的基础风景上进行投资。

电信测试公司Spirent早期只使用聊天机器东说念主的公司之一——具体来说，是OpenAI ChatGPT的企业版，应允不错保护企业数据。

Spirent企业时间和计谋副总裁Matt Bostrom暗示：“咱们不但愿咱们的数据进入到全国模子中，企业版餍足了这个需求，是以咱们无用构建我方的大型言语模子。其时，OpenAI领有最佳的大型言语模子，不外当今Claude正在挑战这少量，咱们也使用它的模子。”

Spirent仍然保合手着这一状况，为公司里面用户提供130多个许可，他们使用圭表聊天界面，何况不需要API老本或集成。“你只是在使用他们的诳骗并为用户许可付费，”他说。

但这只是一个开动。“咱们知说念咱们念念要把AI镶嵌到咱们现存的诳骗中。Salesforce和其他厂商齐有不错添加的AI模块，但咱们但愿更具体少量，不错妥当咱们的用例。”这意味着Spirent公司必须作念一些严肃的基础风景责任，就像大多数企业级AI名堂同样，要从数据开动入辖下手。

最大限制地弘扬数据的后劲

阐明德勤第三季度发布的生成式AI施展自满，有75%的组织由于生成式AI而加多了数据人命周期不休方面的支拨。

Bostrom暗示：“旧年11月我加入公司的时候，咱们通过AWS进行了数据当代化，咱们转向了AWS时间堆栈，包括结构化数据和非结构化数据。”

将数据从旧系统逶迤到当代化系统，这是构建AI的短处。他说：“若是你罕有据问题或者数据齐备性问题，你就不会得到很好的恶果。”他说，一朝数据整理好了，把数据移动到需要的场所就成了另一个挑战。

“咱们公司有集成用具男同 按摩，然而很旧的、过期的用具，”他说。要达成生成式AI所需的大规模集成，就要进行多半且精熟的升级。

相背，Spirent公司决定剿袭SnapLogic看成集成层，以达成名堂所需的规模。他说：“咱们评估了好多不同的厂商，这个厂商的才智最强。他们正在推出我方的AI构建器，这将为咱们纯粹下购买其他附加组件的用度。”

因此，Spirent公司使用AI来测试家具中的数据，匡助提供客户相沿和里面分娩力，Bostrom说。举例，当又名职工需要在Salesforce中创建新的销售宣传内容时，他不错按下按钮，然后从公司的SharePoint存储库中检索和打包相干内容。

相干内容可能包括数千页信息（举例特定国度的合礼貌程），这些里面信息将通过存储在Salesforce平台中的数据进行推广，并看成微调教导的一部分发送给AI。然后谜底再复返到Salesforce，职工不错巡逻反馈内容、裁剪内容、并通过旧例Salesforce过程发送出去。

“这只是其中一个例子，当今东说念主们仍是尝试过了，咱们创造了越来越多的功能，咱们有一个冲洗和重叠的轮回。”

将数据逶迤到当代仓库并实施当代数据管说念，这是一个宽绰的跨越，但并莫得贬责Spirent公司总计的AI基础风景挑战。

Bostrom暗示：“咱们是一家全球性公司，大型言语时势有地区方面的扫尾。OpenAI仍是阻滞了某些国度，Claude亦然如斯。咱们在全球齐有职工，咱们不念念违抗任何政策，是以咱们必须念念主见指挥职工得回他们所在国度批准的大型言语模子。”

挽救步调之一等于区域部署选项，举例，新加坡的AWS数据中心可能相沿中国用户，但并非总计的大型言语模子齐可在这里使用。

也有开源的大型言语模子，企业不错在职何需要的场所自走运行，但可用资源穷乏，即使是像Amazon这样的巨头亦然如斯。“这些资源正在被采购和使用，要得回托管Mistral所需的建壮作事器资源是很难的。”因此，目下Spirent公司坚合手与OpenAI等大型交易提供商结合，并通过API访谒大型言语模子。

Spirent公司也莫得构建我方的矢量数据库。就RAG来说这是很常见的，RAG是一种普及准确性和实时性的AI策略，不错减少幻觉，同期幸免必须在明锐数据或者独到数据上查考或微调AI带来的问题。

Bostrom暗示：“当今有一种拖放功能，不错自动创建矢量数据库，咱们还有一种助手功能，不错把一千个文献放进去，是以咱们不需要购买我方的向量存储。”

变化带来选拔

Spirent公司决定使用公有云来保存数据，这是一种流行的作念法。阐明Flexential本年夏天发布的一项大型公司观察，有59%的公司使用公有云来存储AI查考和推理所需的数据，有60%的公司使用主机托管提供商，有49%的公司使用土产货基础风景。的确总计公司齐有AI道路图，突出一半的公司有计划加多基础风景投资，以餍足更多AI责任负载的需求。但企业正在寻找公有云以外的方法来餍足他们对AI蓄意的需求，最受接待的选拔，等于专门的GPU即作事厂商，有34%的大公司齐在使用这种类型的供应商。

以业务过程外包公司TaskUs为例，该公司在扩大生成式AI部署的过程中，看到了对更多基础风景投资的需求。该公司首席信息官Chandra Venkataramani暗示，这一挑战并不令东说念主感到有时，但如实意味着企业要严慎适度老本。“咱们不念念千里迷于时间，也不念念为此豪恣。”具体来说，TaskUs需要往复移动更多的蓄意和数据。

Cognizant公司高档副总裁、全球AI和分析认真东说念主Naveen Sharma暗示，AI蓄意主要有两种类型，濒临着不同的挑战。在查考方面，延长不是一个很大的问题，因为这些责任负载对时候是不解锐的。企业不错在非责任时候在更低廉的场所进行查考或微调。“咱们对毫秒级的反馈莫得祈望，公司也更为优容一些。”

AI蓄意的另一个主要用途是推理，即使用经过查考的AI模子来本色恢复问题，这频繁是需要实时进行的。Sharma说：“除非你有才智条目客户恭候模子作念出反馈，不然推理就会成为一大问题。”

举例，他说，他看到达拉斯和休斯顿地区的需求很高。“由于总计AI公司齐搬到了那处，总计这个词地区对蓄意的需求齐特别垂死，而且可能会有一些与石油和自然气相干的责任，也许这等于导致需求激增的原因。”

位置也可能是另一个问题——数据主权法例。在某些功令统帅区，出于合规原因，数据是不允许离开的。“若是你的数据仅限于你所在的地区，那么你就只可使用该地区的容量，”Sharma说。

若是超大规模企业无法提供所需的容量，而一家企业在主机托管风景或土产货莫得我方的数据中心，那么另一个主要替代有计算等于GPU即作事提供商，而且这类厂商的发展势头十分强盛，Sharma说：“若是你的超大规模蓄意平台无法以合乎的价钱为你提供饱和的作事，那么还有其他的选拔。”

Sharma暗示，关于那些知说念我方对AI蓄意有一定需求的企业来说，把其中一部分需求带到我方的数据中心，并从按需订价转向固定订价，从弥远财务角度来看是合理的。

赋能试点

Flexential的观察还自满，有43%的公司濒临带宽穷乏问题，34%的公司在扩展数据中心空间和功率以餍足AI责任负载条目方面碰到了问题，其他问题包括荟萃不成靠和延长过大等。独一18%的公司称，在往常12个月中，他们的AI诳骗或责任负载莫得出现过任何问题。因此，交易有计划公司Kearney的数字和分析业务合资东说念主Bharath Thota暗示，2023年是AI试点和观念考证的一年，这样说是挑升旨的。本年是各家企业试图扩大这些试点规模的一年。

“这等于挑战所在，这对AI来说并不是什么簇新事。但由于需要访谒的数据量大得多，因此问题变得越来越严重。”生成式AI不仅猝然了越来越多的数据，还产生了越来越多的数据，这是企业频繁莫得预念念到的一个问题。

此外，当企业创建一个模子的时候，模子是由其查考数据和权重界说的，因此追踪不同版块的AI模子可能需要保留每个单独查考数据集的副本。Thota说，这取决于具体的用例。“莫得东说念主知说念最佳的方法是什么，群众齐是在迭代中学习的。”来岁，总计基础风景（存储、荟萃、蓄意和延长）方面的问题只会越来越多。

目下，从试点转向分娩的生成式AI用例数目还相对较少，其中好多齐是分阶段部署的。跟着越来越多的试点干涉分娩，分娩名堂扩大到总计潜在用户，基础风景挑战将会越来越凸显。而只是找到一个可行的贬责有计算是不够的，因为生成式AI时间正在以惊东说念主的速率发展。Thota说：“你需要饱和活泼，大概在升级时进行切换。”

此外，还有与AI基础风景不休相干的技巧差距或东说念主员穷乏问题。尽管平台和用例齐在快速发展，但不休存储、收罗蓄意资源并优化老本和性能是一个令东说念主担忧的问题。不外，跟着生成式AI变得越来越智能，它也可能成为一种匡助企业的神色。

InfoSec Innovations公司高档合资东说念主、SANS Institute讲师Mick Douglas问：“你别传过收罗即代码吗？还有基础风景即代码。关于一些要进行多半蓄意的大企业来说，他们不错开动玩一些游戏，比如，在云中领有特别建壮的编造机如故少数Lambda函数，哪个更好？你不错让AI为你创建一个空洞层，然后让AI迭代总计不同的构建。”

其中一些优化不错通过机器学习来完成，而且当今仍是有这样作念的了。但机器学习的问题在于提供商的家具是继续变化的。传统分析不错处理数学和模拟，而生成式AI可用于找出选项并进行更复杂的分析。

Douglas说：“生成式AI的主要上风在于男同 按摩，你不错以自动化的神色制作不同的部署代码模板，不错省去一些重荷的责任。”