Rethinking the Integration of Prediction and Planning in Deep Learning-Based Automated Driving Systems: A Review 
自动驾驶有可能彻底改变个人、公共和货运出行。除了感知的巨大挑战之外，即 ...
0 0 0 2024/07/27 arXiv:2308.05731v2 chenlei
Text-Augmented Open Knowledge Graph Completion via Pre-Trained Language Models 
开放知识图谱（KG）补全的使命是从已知事实中得出新的发现。现有的增强知识图谱补全的工作需要（1）事实三元组来扩大图形推理空间，或者（2）手动设计的提示来从预先训练的语言模型（PLM）中提取知识，但性能有限并且需要专家付出昂贵的努力。为此，我们提出 TAGREAL，它自动生成高质量的查询提示并从大型文本语料库中检索支持信息，以探测 PLM 中的知识以完成 KG ...
0 0 0 2024/07/27 arXiv:2305.15597v1 sunzhongming
Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark 
在不断发展的自然语言处理 (NLP) 领域，使用 SGD 和 Adam 等一阶 (FO) 优化器微调预训练的大型语言模型 (LLM) 已成为标准。然而，随着 LLM 规模的增长，FO 梯度计算的反向传播 (BP) 产生的大量内存开销提出了重大挑战。解决这个问题至关重要，特别是对于设备上训练等内存效率至关重要的应用程序 ...
0 0 0 2024/07/27 arXiv:2402.11592v3 fifol
Generalized User Representations for Transfer Learning 
我们提出了一种用于大规模推荐系统中用户表示的新颖框架，旨在以通用方式有效地表示不同的用户品味。我们的方法采用结合表示学习和迁移学习的两阶段方法。表示学习模型使用自动编码器将各种用户特征压缩到表示空间中 ...
0 0 0 2024/07/27 arXiv:2403.00584v1 zx1227
A Survey on Efficient Training of Transformers 
Transformer 的最新进展对计算资源提出了巨大的要求，这凸显了开发高效训练技术的重要性，通过有效利用计算和内存资源，使 Transformer 训练速度更快、成本更低、精度更高。本次调查首次系统概述了 Transformers 的高效训练，涵盖了加速算法和硬件方面的最新进展，并重点关注了前者。我们分析和比较了在训练期间节省中间张量的计算和内存成本的方法，以及硬件/算法协同设计的技术 ...
0 0 0 2024/07/27 arXiv:2302.01107v3 mycy2008
Knowledge-augmented Deep Learning and Its Applications: A Survey 
尽管过去几年深度学习模型在许多不同领域取得了巨大成功，但通常需要大量数据，在未见过的样本上表现不佳，并且缺乏可解释性。目标领域中通常存在各种先验知识，它们的使用可以缓解深度学习的缺陷。为了更好地模仿人脑的行为，人们提出了不同的先进方法来识别领域知识并将其集成到深度模型中，以实现数据高效、可泛化和可解释的深度学习，我们将其称为知识增强深度学习（KADL）  ...
0 0 0 2024/07/27 arXiv:2212.00017v1 dagugu
Dual-Branch Knowledge Distillation for Noise-Robust Synthetic Speech Detection 
合成语音检测 (SSD) 方面的大多数研究都集中于提高标准无噪声数据集的性能。然而，在实际情况中，通常存在噪声干扰，导致SSD系统的性能显着下降。为了提高噪声鲁棒性，本文提出了一种双分支知识蒸馏合成语音检测（DKDSSD）方法 ...
0 0 0 2024/07/27 arXiv:2310.08869v2 edcyhn
edcyhn
DBT-Net: Dual-branch federative magnitude and phase estimation with attention-in-attention transformer for monaural speech enhancement 
解耦式概念开始在语音增强领域点燃，它将原始的复杂频谱估计任务解耦为多个更简单的子任务，即仅幅度恢复和剩余复杂频谱估计）}，从而获得更好的性能和更容易的可解释性 ...
0 0 0 2024/07/27 arXiv:2202.07931v2 edcyhn

来一起翻译吧！


为了您和其他读者获得更好的阅读体验，请您勇敢地改进翻译，特别是一些显而易见的机器翻译错误。


虽然我们追求卓越，但我们并不要求翻译十全十美，因此请不要担心您翻译有误 —— 我们的服务器已经记录所有的翻译，您不必担心会因为您的失误导致无法挽回的破坏。（改编自维基百科）