扫码阅读
手机扫码阅读

Azure AI Studio使用体验——企业级AI工厂

62 2024-01-20

在最新的Ignite大会上,微软不仅发布了Copilot Studio这个No Code/Low code平台(感兴趣的小伙伴可以看我的另一篇文章《Copilot Studio使用初体验》),将使用AI的能力降低到最低。还发布了一个给专业团队使用的一个企业级别的AI工作平台——Azure AI Studio。一个可以让业务人员、研发工程师、AI专家等不同角色的人,在一起合作完成企业级需要的AI功能的AI工厂,它支持Web访问,在一个位置能够协作完成功能设计、尝试、调整、部署等。今天就和大家一起探索一下它吧。

AI的汇聚地

可以看到进入AI Studio之后,首先看到首页的印象就是他是一个AI Hub,给你提供了很多选择,不只是OpenAI这样的大语言模型,同时还有其他业界比较好的模型可以使用。第一行还可以看到提供你创建的两类项目模版:Copilot和多模态项目。同时还提供了代码实例(github)作为参考。

首页下方还有一个明显的区域,可以看出来微软自家的几类大的AI技术赫然在列。虽然现在是大语言模型很热。但是大语言模型仍然是基于文字的交互为主,虽然现在增加了多模态,不过结合已有的AI技术组合,能够更好的提供与大语言模型的交互方式,将具体的AI应用延伸到企业的更多区域。

微软在这些年有很多积累。例如:语音到文字以及文字到语音等语言处理;OCR这类视觉方面的图像和视频识别技术;多语言处理能力等。

探索不同大语言模型的能力

在Home页的旁边就是Explore页,顾名思义,可以探索各种种类的AI模型,可以看到这里不仅有OpenAI的大语言模型,还有Meta,Nvidia等公司的模型,同时最右侧的Filter中还有不同方向的分类方便你寻找需要的模型。

此外,微软贴心的提供了基线对照功能(Benchmarks)。你可以比较不同模型之间的运行效果,选择最适合你当前业务需要的模型。

Capabilities下面可以看到微软已有的AI能力,语音识别、视觉、多语言能力。提供了丰富的场景和实验场地,你可以进行尝试,并考虑如何结合到自身业务应用和创新中。

AI安全方面,微软一直都在践行有责任的AI。用自己的技术能力,通过内容筛选来避免AI生成内容违规,而这次Studio中的内容安全部分保持了一如既往的简单操作的同时,还提供了丰富的试用场地功能,可以直接预览过滤效果。此外,还提供了除了文字内容以外的图像筛选能力。

在尝试具体过滤器的能力的同时,还可以通过微调参数来时时调整,查看输入语句的检测效果。这一点就非常让人惊喜,之前这一功能只是一个黑盒,而现在可以时时看到设定的效果。所见即所得。你不必在部署的应用中来测试,而是在这里能够时时测试系统对非法内容的过滤或阻止能力。让用户可以更大的自主权来设定符合自身实际情况的内容过滤器设置。

例如下面就是对一条内容进行测试后,View results给出了blocked的结果并给出了原因。

当然小数据量调整后,还可以测试对大数据集的效果。方便上传CSV文档来进行测试。

除了文字的过滤设置的验证,更厉害的可以对图片内容进行类似的操作。你可以通过上传自己的图片来验证过滤参数是否起作用。当然也可以先从单图片开始进行测试验证,之后在批量上传大数据进行验证。

在探索页面中最后一个功能是提示词案例列表,可以在这里找到一些微软总结的好用的提示词用例。你可以基于你的业务需要,选择某一个提示词作为模版进行修改。加速功能落地。

例如选择Product Description and Content Creation。进入之后你将会看到提示词命令和相关变量。同时你可以在操场(Playground)里面进行测试和微调。

通过项目方式组织AI应用

Azure AI studio是希望拥有不同经验背景的人(AI专家,Infra专家,业务专家,研发工程师),能够一起做出来更有创新或者说更贴近业务、解决实际问题的AI应用。通过项目的方式组织多AI模型到一起,通过所见即所得的方式从小范围迭代开始,调整模型参数,直到知道效果达到要求,之后再扩大数据量,微调参数迭代,重复这一过程。

创建一个project之后,第一步是选择你想要用的模型。这里除了Open AI之外还有很多选择。例如:Meta,Hugging face,Nvidia等。

有一些小区别的是,如果是Azure OpenAI的模型,你的Azure资源已经分配了,那么只需要选择对应的Azure资源组就可以了。

如果是其他模型,那么需要单独申请新的资源。

建立了AI模型之后,你就能在操场(Playground)里面对你选择的模型进行操作了。可以通过选择你希望模型进行的操作,例如Chat还是Completion。

当然还可以使用文生图技术,例如DALL-E

操场是一个可以快速验证和调整当前模型运行情况的场所,如果你不知道如何开始你的提示词,还提供了提示词样板可以参考。

提示流是另一个微软在AI模型协作方面主推的一个功能,它是对 LangChain 和语义内核(Semantic Kernel)的补充 - 它可以与他们任何一个一起使用。 提示流支持生成式 AI 解决方案的 LLMOps,提供评估、连接管理和流逻辑,以帮助调试应用程序、管理部署和进行大规模监视。

可以看到微软提供了一些flow的模版作为参考。这部分更多面向AI工程师的工作场景,类似他们平时工作的Notebook。

同时可以对当前模型进行评估。左侧导航和右上角都有Evaluate功能。如下动图,可以看到它还可以进行手动评估标注。

最后,每个项目提供了私有数据的存储和使用。可以看到你可以对私有数据进行存储和索引,并在与大模型的结合中通过RAG(RetrievalAugmentedGeneration)技术进行响应内容优化。

总结

微软一贯的做法是用最简单的操作来整合复杂的技术。大语言模型的热潮很多企业和业务人员都希望能够应用,并用AI来赋能业务。Azure AI Studio正是抓住了这一需求,成为了企业级AI业务工厂,为行业用户快速落地业务与AI结合的产品提供助力。从这一点来看未来,AI应用的工具使用会越来越简单,而核心价值仍然是领域知识。通用人工智能只有和具体业务领域结合,才能解决我们生活中的各种问题,提高我们的生活质量。

践行敏捷实践,让工作去繁从简。欢迎关注我的公众号,交流落地经验。

原文链接: http://mp.weixin.qq.com/s?__biz=MzkxMTEyNjAyNg==&mid=2247484607&idx=1&sn=5a6302e0382bde72078390479eb458bb&chksm=c121bfdaf65636cc163a3af1538c4e1bd23809036eb9b38f3e5067b7732cc6d60f33239477c7#rd