Google

Google生成式AI研发再受严格检视。继今年初Bard引用错误网路照片後，《纽约时报》上周又发现，最新版Google Bard在搜寻用户Gmail信箱并回答用户查询时还是出错，捏造了用户不曾写过的信件来支持其论点。

今年初Google宣布生成式AI聊天机器人Bard时，被揭露会提供错误的公司财报数字，引发AI幻觉（hallucination）的讨论。在7个月後，Google上周再次宣布Bard的研发进展，最新的Bard Extensions可搜寻用户Google帐号下的服务，包括Gmail、Docs、Drive、Google Maps、YouTube、Google Flights及Google Hotels等。如此一来，可以加速使用者作业，例如请Bard搜寻他Gmail信箱中的邮件帮忙草拟回信，或是根据Google Calendar的行程搜寻航班与饭店资讯，并於Google Maps上列出到机场的路线。

《纽时》专栏作家Kevin Roose在Bard上线时就曾经试用，发生Bard要他离开老婆的乌龙事件。上周Google宣布Bard Extensions後，他再次测试Bard的能耐。

在这次测试中，Roose下提示，要Bard分析其Gmail信件，并「以合理的肯定度」告诉Roose最大的心理问题为何。Bard回应说，根据Roose寄出的信件反映的「对工作感到压力」、并且「害怕失败」来看，他最大问题是对未来感到忧虑。

不过Roose说，其实Bard宣称找到的他寄出的信，根本不是他写的。Bard搜寻到这位专栏作家信箱中一封内容包括马斯克（Elon Musk）最近出版的自传，以及其他内容的电子报，并引用电子报一段引言，虚构成一封Roose自己寄出的信件。此外，该虚构信件中，Roose抱怨自己天生「不是成功投资人」的料，还包含错误的航空公司及不存在的火车资讯。

报导也引述Bard产品总监Jack Krawczyk说法，表示Bard出错不必奇怪，因为Bard Extensions本来就还在实验阶段，而且是很初期的版本。

事实上Google Bard也不是近日唯一出包的生成式AI系统。《华盛顿邮报》报导，近日推出的几个知名AI技术也都传出「突槌」。像是新版Amazon Alexa建议某博物馆，但地点误植为在另一座城市，而OpenAI的文字生成图片模型DALL·E 3也未能完全按用户要求生成图像。

因此厂商开放AI模型或聊天机器人公测时，都不忘警告会有给出不精确资讯的问题，用户不应将生成式AI给出的答案作为研究或医疗用途。…

Google针对生成式人工智慧应用程式开发，释出诸多新工具与功能，而这包含新的企业版Colab，并在全托管机器学习工具Vertex AI支援分散式运算框架Ray，同时还推出一系列MLOps功能，简化模型调校、评估与使用。

Google新推出企业版Colab公共预览版，企业版Colab是一个全托管服务，除了原先Google Colab笔记本的功能之外，还添加企业级安全性和法遵支援。Google Colab是由Google研究院开发的热门云端Jupyter笔记本，每月活跃使用者达700万人，Colab让使用者可以在浏览器中执行Python程式码，支援图表、图像、HTML与LaTeX等多元内容，并且能够方便地在团队中共享专案。

企业版Colab加入Vertex AI支援，可以存取Vertex AI ePlatform上各式模型、调校工具、运算资源和机器类型，还有各种资料科学和MLOps工具。特别的是，企业版Colab有一个新的协作工作区，能够探索、分享和预测BigQuery中的资料，官方提到，企业版Colab可以供用户在BigQuery中启动笔记本，以探索和准备资料，并且在Vertex AI打开同一笔记本，继续使用专门的人工智慧基础设施和工具工作，团队间可透过企业版Colab高度协作，消除资料和人工智慧工作负载间的界限。

已经支援TensorFlow、PyTorch、scikit-learn和XGBoost等诸多框架的Vertex AI，现在进一步新增Ray框架。Ray是一个开源分散式运算框架，主要用来建置、执行大规模分散式人工智慧与Python应用程式。由於Vertex AI上包括企业版Colab、训练、预测和MLOps功能等跨工具整合，用户可以在现有Vertex AI工作流程应用Ray框架。

资料科学家的工作流程，可从Vertex AI目录中选择模型开始，选用像是Llama 2、Dolly、Falcon、Stable Diffusion等模型，并在企业版Colab中开启，进行实验、调整和原型设计，接着Ray框架便可充分运用运算资源，训练生成式人工智慧模型。

除此之外，Google也针对生成式人工智慧推出新的MLOps功能，提供跨模式调校功能，PaLM 2 Text现在能以监督式调校之外，可根据人类回馈进行增强学习的RLHF（Reinforcement Learning from Human Feedback）功能也在预览阶段。还在文生图模型Imagen加入Style Tuning调校方法，用户只要提供10个参照图像，Imagen就能创建符合品牌形象的图像。

另外，用户也可以透过自订义指标，来评估模型的品质，以利後续迭代与改进，而Automatic Side by Side功能，则是运用大型模型评估正在测试的模型输出，以扩大人类评估的规模。Google更在多个储存服务中添加向量支援，使开发者可以更简单地操作嵌入，强化人工智慧应用。…