新智元报道

编辑：定慧

【新智元导读】谷歌推出全新DolphinGemma大模型，基于30年海豚研究数据训练的AI模型正试图破解海豚的语言密码。仅有400M参数的轻量级模型能在普通Pixel手机上运行，不仅能识别海豚声音模式，还能预测它们的下一个发声——就像LLM预测下一个词一样。

你是否曾经好奇过海豚神秘的声音在说什么？

现在借助AI的力量，可以实现「人与海豚」的跨物种交流。

谷歌推出了一款名为DolphinGemma的创新AI模型，不仅能听懂海豚说什么，还能在水下和海豚实时交流。

听起来很科幻，但这是真的！看来人类对AI的开发还不足1%。

DolphinGemma是一个基础LMM模型——但是使用音频数据来训练——来学习海豚发声的结构并生成类似海豚的声音序列，也是第一个能和动物交流的LLM。

Google的CEO Sundar Pichai也表示「这朝着实现跨物种交流迈出了非常酷的一步」。

同时Pichai也宣布了将在夏天开源这个模型，也许你可以带着这个模型去水族馆展示一下超能力了。

因为这个模型足够小，只有400M大小，可以部署在一台手机上。

几十年来，理解海豚的哨声和爆发脉冲一直是科学前沿。

如果不仅能聆听海豚，还能充分理解它们复杂交流的模式，是否能打破人类和其他物种的交流障碍？

DolphinGemma打破交流障碍

LLM能预测下一个词，DolphinGemma也能预测海豚想要说什么。

DolphinGemma利用了Google特有的音频技术：SoundStream分词器高效地表示海豚声音。

这些声音随后由适合复杂序列的模型架构处理。

DolphinGemma的参数只有400M，可以直接部署在Google Pixel手机上。

左侧：DolphinGemma 早期测试中生成的哨声（左侧）和爆发脉冲（右侧）

DolphinGemma基于Gemma构建而成，Gemma是Google 的轻量级、最先进的开源模型，这些模型采用与Gemini模型相同的研发和技术。

和我们熟知的文本LLM类似，但是DolphinGemma是一个音频输入、音频输出的模型。

它能处理自然海豚声音序列，以识别模式、结构，并最终预测序列中可能的后续声音，就像LLM预测下一个单词或Token一样。

海豚数据集：WDP数十年的坚持

想要和海豚「沟通」是一项艰巨的任务。

多亏了WDP的庞大、标记数据集，为这项前沿AI研究提供了独特的机会。

自1985年以来，WDP开展了世界上持续时间最长的水下海豚研究项目，对巴哈马特定社区的野生大西洋斑点海豚（Stenella frontalis）进行了跨代研究。

这种非侵入性的、以「在他们的世界，以他们的方式」为原则的方法，产生了丰富而独特的数据集。

数十年水下视频和音频，与个体海豚身份、生活史和观察行为仔细配对的数据。

一群大西洋斑点海豚，Stenella frontalis

WDP长达数十年的观察工作至关重要。

最终目标是理解这些海豚的声音序列中的结构和潜在含义——寻找海豚语言中模式和规则。

这种对自然交流的长期分析构成了WDP研究的基础，并为任何AI分析提供必不可少的上下文数据。

左边：一只母斑点海豚在觅食时观察她的幼崽。她会使用她独特的签名哨声在幼崽完成活动后叫它回来。右边：用于可视化海豚哨声的频谱图

用Pixel手机和海豚交流

有了数据，也训练好了模型，如何让DolphinGemma的声音被海豚听到呢？

WDP与佐治亚理工学院合作，开发了「鲸目动物听力增强遥测」（Cetacean Hearing Augmentation Telemetry，CHAT）系统，一种水下计算机。

CHAT不是直接破译海豚的复杂自然语言，而是建立一个更简单、共享的词汇表。

通过在人类之间演示系统，研究人员希望天生好奇的海豚会学会模仿这些哨声来请求她们喜欢的特定物体。

最终，随着更多海豚自然声音的理解，它们也可以被添加到系统中。

CHAT的新一代系统将以Google Pixel 9为基础，整合扬声器/麦克风功能，并利用手机的先进处理能力。

使用Pixel智能手机减少了对自定义硬件的需求，缩小了设备的成本和尺寸，极大方便了在公海就行研究的科研人员。

一台Google Pixel 9在最新的 CHAT 系统硬件内部

部署在手机上的DolphinGemma也可以帮助CHAT在海豚发声序列的早期预测和识别潜在的模式。

跨物种交流，AI搞定