震撼!谷歌自动重建了果蝇完整大脑:40万亿像素图像首度公开!

  来源:Google AI,编辑:小芹、金磊、张佳

  【新智元导读】今天,谷歌与霍华德·休斯医学研究所(HHMI)和剑桥大学合作,发布了一项深入研究果蝇大脑的重磅成果——自动重建整个果蝇的大脑。他们使用数千个谷歌云 TPU,重建的完整果蝇大脑高达 40 亿像素。有了完整的大脑图像,科学家距离了解大脑如何工作更近了一步。

  你知道吗?果蝇是公认被人类研究的最彻底的生物之一,截至目前,已有 8 个诺贝尔奖颁发给使用果蝇的研究,这些研究推动了分子生物学、遗传学和神经科学的发展。

  科学家们一直梦想通过绘制完整的大脑神经网络的结构,以了解神经系统是如何工作的。

  最近研究的一个主要目标是果蝇的大脑

  果蝇的一个重要优势是它们的大小:果蝇的大脑相对较小,只有 10 万个神经元,相比之下,老鼠的大脑有 1 亿个神经元,人类的大脑有 1000 亿个神经元

  这使得果蝇的大脑更容易作为一个完整的回路来研究。

  今天,谷歌与霍华德·休斯医学研究所(HHMI)和剑桥大学合作,发布了一项最新深入研究果蝇大脑的研究成果——自动重建整个果蝇的大脑


果蝇大脑的自动重建

  这篇论文题为“利用 Flood-Filling 网络和局部调整自动重建连续切片成像的果蝇大脑”:

  来自谷歌、霍华德·休斯医学研究所(HHMI) Janelia 研究园区以及剑桥大学的一共 16 位研究人员参与了这个研究,其中,第一作者 Peter H. Li 是谷歌研究科学家,主要研究方向包括一般科学、机器智能、机器感知。


Peter H. Li

  他们还提供了果蝇大脑完整图像的展示,任何人都可以下载查看、或使用交互式工具在线浏览,他们开发了一个 3D 的交互界面,称为 Neuroglancer。

  Neuroglancer 的演示视频请到原文观看。

  这不是果蝇大脑第一次得到完整绘制,今年 1 月,Science 杂志用封面报道,介绍了 MIT 和霍华德·休斯医学研究所(HHMI)科学家们成功对果蝇的完整大脑进行了成像,并且清晰度达到了纳米级。但那次仍是人工的方法,使用了两种最先进的显微镜技术。

  几十年来,神经科学家一直梦想绘制出一幅完整的大脑神经网络的精细地图,但对于拥有 1000 亿神经网络的人脑,需要处理的数据量之巨大是难以想象的。如果能自动重建果蝇大脑,也许离自动绘制人脑就更近一步了。

  这也不是 Peter H. Li 的团队第一次试图用 AI 方法绘制大脑神经元,他们分别在 2016 年和 2018 年在更小的数据集上进行了研究,如下图右下角所示。


一个 40 万亿像素的果蝇大脑的 3D 重建右下角分别是谷歌 AI 在 2016 和 2018 年分析的较小数据集

  在 2018 年,谷歌与德国马克斯普朗克神经生物学研究所合作,开发了一种基于深度学习的系统,可以自动映射大脑的神经元。他们对 100 万立方微米斑胸草雀大脑扫描图像进行了重建。

  研究人员称,由于成像的高分辨率,即使只有一立方毫米的脑组织,也可以产生超过 1000TB 的数据。因此,这次重建整个果蝇的大脑,可想数据量有多庞大。

  用于处理数据的,是谷歌的Cloud TPU,而且是数千个!

  Google AI 负责人 Jeff Dean 也在推特上感叹道:

TPU 真的会飞!GoogleAI 的科学家使用 TPU 来帮助重建了整个果蝇大脑的神经连接!

  下面,新智元带来对这一研究的详细解读:

  一、40 万亿像素果蝇大脑,自动重建!

  在实验过程中,主要采用的数据集是 FAFB,它是“full adult fly brain”(完整成年果蝇大脑)的缩写(相关数据集信息见文末)。

  研究人员在此数据集上,将果蝇的大脑切成了成千上万个 40 纳米的超薄切片,而后用透射电子显微镜对每个切片进行成像,这就产生了超过 40 万亿像素的大脑图像。并且将这些 2D 图像整合成连贯的 3D 果蝇大脑图像。

  接下来,研究人员使用了数千个云 TPU,并应用Flood-Filling Network (FFN),以便自动跟踪果蝇大脑中的每个神经元。


通过 FFN 对整个果蝇大脑进行密集分割(dense segmentation)

  上图中的A是 3D 渲染的 FAFB 数据集平滑组织掩膜(smoothed tissue mask)。任意冠状切片(数据集 XY 平面)显示了整个内部的 FAFB-FFN1 分割。B-E 展示了增加缩放比例后的效果。


自动神经元重建与手动神经元跟踪做验证对比

  虽然这个算法总体运行效果还算不错,但是当对齐(alignment)不够完美(连续切片中的图像内容不稳定)或者偶尔由于在成像过程中丢失了多个连续切片时,性能会有所下降。

  为了弥补这个这个问题,研究人员便将 FFN 与两个新程序结合起来

  首先,估计出 3D 图像中各个区域切片之间的一致性,然后在 FFN 跟踪每个神经元的时候局部稳定图像中的内容。

  其次,研究人员使用 SECGAN 来计算图像体积(volume)中缺失的切片,而当使用 SECGAN 时,研究人员发现 FFN 能够更可靠地跟踪多个缺失切片的位置。


局部调整(Local Realignment,LR)


不规则截面的替换


整体 FAFB-FFN1 的分割 pipeline


Segmentation-assisted 神经元跟踪

  二、果蝇大脑与 Neuroglancer 的交互可视化

  当处理包含数万亿像素和形状复杂的物体的 3D 图像时,可视化既重要又困难。受谷歌开发新可视化技术的历史启发,研究人员设计了一种可扩展且功能强大的新工具,任何拥有支持 WebGL 的网页浏览器的人都可以访问。

  结果就是 Neuroglancer,一个在 github 上的开源项目,可以查看 petabyte 级 3D volume,并支持许多高级功能,如任意轴横截面重构(arbitrary-axis cross-sectional reslicing),多分辨率网格,以及通过与 Python 集成开发自定义分析 workflow 的强大功能。该工具已被合作者广泛使用,包括艾伦脑科学研究所、哈佛大学、HHMI、马克斯普朗克研究所(Max Planck Institute)、MIT、普林斯顿大学等。  

  三、未来工作

  谷歌表示,HHMI 和剑桥大学的合作者已经开始使用这种重建来加速他们对果蝇大脑学习、记忆和感知的研究。然而,由于建立连接组需要识别 synapses,因此上述结果还不是真正的 connectome。他们正与 Janelia Research Campus 的 FlyEM 团队密切合作,利用“ FIB-SEM ”技术获得的图像,创建一个高度验证且详尽的果蝇大脑的 connectome。

  FAFB:v14 排列的完整成年果蝇大脑

  可视化链接:

  https://fafb.catmaid.virtualflybrain.org/

  https://bit.ly/2SkiWsP

  下载链接:

  http://temca2data.org/

  FAFB CLAHE:FAFB 和 CLAHE 对比度归一化(contrast normalization)

  可视化链接:

  https://bit.ly/2SkiWsP

  CREMI:基于早期 FAFB 排列的 CREMI 挑战训练数据

  下载链接:

  https://cremi.org/data/

  论文地址:

  https://www.biorxiv.org/content/biorxiv/early/2019/08/04/605634.full.pdf

 

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注