Jan 14, 2020

图像噪点太多?AI拯救渣画质

如果你曾在低亮度环境下拍过照片,那你可能对一个叫“噪点”的术语比较熟悉,也就是照片上常出现的那些颗粒状的彩色或白色斑点,正是它让我们所拍的照片模糊不清。以往用一些图像编辑软件也能修复这个问题,只是要费一番功夫。


由NVIDIA、阿尔托大学和麻省理工学院的研究者联合研发的一款叫Noise2Noise的AI技术,能够自动降低或去除图像上的噪点,只需看一眼模糊图像就能将它们变为高清图,而且神奇的是,这个AI无需查看没有噪点的照片。他们在研究论文中写道,通过利用机器学习技术重建图像信号——将图像中受损观察值映射为清晰信号,可以得到一个有力的结论:在一定常见情况下,AI即使从未见过清晰图像,也能学习复原图像信号,而且效果和利用清晰图像训练出的AI相差无几。



近来在图像处理领域也出现了不少深度学习研究,通过训练神经网络为照片降噪或去噪,比如去年德国普朗克研究所用神经网络修复低分辨率图像(戳这里了解),但都存在一个缺点——需要向模型展示成对的噪点和清晰示例图像。NVIDIA等团队研发的这个AI则更进一步,学会了如何填补噪点图像和清晰图像之间的差距。它之所以如此特殊,是因为它不基于配对的清晰图像和噪点图像而是配对的噪点图像来训练网络,并且只需要噪点图像。此外模型的训练时间也大幅提高,以往训练一个AI降噪模型需要几天,这个AI只需几分钟。


在从未见过没有噪点的图像的情况下,AI能够轻松移除图像上的伪影、噪点和粒度,自动将图像增强为高清图,速度达到毫秒级。



利用NVIDIA Tesla P100 GPU和TensorFlow深度学习框架,研究团队使用ImageNet验证数据集中的5万张图像训练了他们研发的系统,并用三种不同的数据集验证AI系统。


在实际测试中,对于包含多种噪点的图像,比如附加高斯噪点、泊松噪点、Binomial噪点等,AI均能有效降噪和去噪。


而且除了我们日常生活中拍摄的照片,这个AI还能用于增强已知的含有大量噪点的图像,比如天文摄影、核磁共振成像(MRI)或大脑扫描图像。


研究人员利用XMX数据集中约5千张MRI图像训练了AI的去噪能力,他们将原始清晰图像添加了不同比例的噪点,只用它们训练AI,也就是说AI并不知道清晰的MRI图像是怎样的,完全靠自己的学习将图像复原。



我们可以看到,AI去噪后的图像清晰度已经非常接近原始图像。


另外,AI还能去除图像上的文字。训练方法和前面的一样,只用被文字遮盖的图像训练后的神经网络,能将图像上弹幕一般的文字一扫而光。