Retrieval Augmented Generation - 2022年02月
Retrieval Augmented Classification for Long-Tail Visual Recognition
发布时间：2022-02-22
作者：Alexander Long, Wei Yin, Thalaiyasingam Ajanthan, Vu Nguyen, Pulak Purkait, Ravi Garg, Alan Blair, Chunhua Shen, Anton van den Hengel
中文摘要：
我们提出了检索增强分类（RAC）方法，这是一种将显式检索模块与标准图像分类流程相结合的通用方法。RAC由一个标准的基图像编码器与一个并行检索分支组成，该分支查询一个非参数化的外部记忆库，该库包含预编码的图像和相关文本片段。我们将RAC应用于长尾分类问题，并在Places365-LT和iNaturalist-2018数据集上（分别提高了14.5%和6.7%）显著优于之前的最先进方法，尽管我们仅使用了训练数据集本身作为外部信息源。我们证明了RAC的检索模块无需提示即可在尾部类别上学习到高精度，这反过来又使得基编码器能够专注于常见类别，并在此类别的性能上得到提升。RAC提供了一种利用大型预训练模型而不需要微调的替代方法，同时也是在常见计算机视觉架构中更有效地利用外部记忆的第一步。
一句话总结：
RAC通过结合检索模块和基图像编码器，显著提升了长尾图像分类的性能，同时无需对预训练模型进行微调。
Deep Iterative Phase Retrieval for Ptychography
发布时间：2022-02-17
作者：Simon Welker, Tal Peer, Henry N. Chapman, Timo Gerkmann
中文摘要：
在衍射成像领域，最突出的挑战之一是相位恢复（PR）问题：为了从衍射图案中重建物体，必须计算逆傅里叶变换。这只有在拥有完整的复值衍射数据的情况下才可能，即幅度和相位。然而，在衍射成像中，通常只能直接测量幅度，而相位需要被估计。在这项工作中，我们特别考虑了相衬成像，这是衍射成像的一个子领域，其中物体是从多个重叠的衍射图像中重建的。我们提出了一种通过一个用于细化每次迭代结果的神经网络来增强现有迭代相位恢复算法的方法。为此，我们改编并扩展了最近从语音处理领域提出的一种架构。评估结果表明，所提出的方法在迭代次数和算法运行时间方面都提供了改进的收敛速度。
一句话总结：
本研究提出了一种结合神经网络优化的迭代相位恢复算法，显著提高了相衬成像中的收敛速度。
A Survey on Retrieval-Augmented Text Generation
发布时间：2022-02-02
作者：Huayang Li, Yixuan Su, Deng Cai, Yan Wang, Lemao Liu
中文摘要：
最近，检索增强文本生成引起了计算语言学界的广泛关注。与传统的生成模型相比，检索增强文本生成具有显著的优势，尤其是在许多自然语言处理（NLP）任务中实现了最先进的性能。本文旨在对检索增强文本生成进行综述。首先，它强调了检索增强生成的通用范式，然后根据不同的任务（包括对话响应生成、机器翻译和其他生成任务）回顾了显著的方法。最后，它指出了基于最近方法的几个重要方向，以促进未来的研究。
一句话总结：
本文综述了检索增强文本生成领域，探讨了其在不同NLP任务中的应用和未来研究方向。
Novelty Controlled Paraphrase Generation with Retrieval Augmented Conditional Prompt Tuning
发布时间：2022-02-01
作者：Jishnu Ray Chowdhury, Yong Zhuang, Shuyi Wang
中文摘要：
本文集中探讨了自然语言处理中释义生成这一基本且长期的任务，提出了两个主要贡献：（1）我们提出检索增强提示调整（RAPT）作为一种参数高效的策略，用于适应大型预训练语言模型以进行释义生成；（2）我们提出新颖性条件化RAPT（NC-RAPT）作为一种简单且模型无关的方法，利用专门的提示标记进行受控的释义生成，并实现不同层次的词汇新颖性。通过在四个数据集上进行的广泛实验，我们证明了所提出的方法在保留原文语义内容的同时，能够诱导生成过程中的词汇新颖性。
一句话总结：
本文提出了一种高效的释义生成方法，结合了检索增强提示调整和新颖性条件化策略，以在保持原文语义的同时实现词汇新颖性的生成。