Skip to main content

黑洞资源笔记

黑洞资源笔记
黑洞资源笔记

  1. McAfee推出Mockingbird项目来阻止AI语音克隆诈骗 | YouTube | 文章

    McAfee推出了Project Mockingbird，以检测使用生成式AI制作的深度伪造音频和视频。这些伪造内容正在被网络犯罪分子用来进行诈骗和操纵公众舆论。

    该技术可以检测出音频是否真的是某人的声音，或者是AI生成的。它可以帮助消费者识别视频和信息的真伪，避免上当受骗。

    McAfee表示这项技术应用广泛，可以帮助消费者应对AI生成的诈骗和虚假信息的增加。它可以赋予消费者区分数字世界中真假内容的能力。McAfee进行的一项调查显示，68%的美国人比去年更担心深度伪造，33%的人表示遇到过或知道深度伪造诈骗。

    大众最担心深度伪造会被用来影响选举、网络欺凌、破坏公众对媒体的信任等。McAfee希望通过这项技术来增强在线隐私、身份和福祉。McAfee在CES 2024上首次公开展示了Project Mockingbird。该技术被比作知更鸟的鸣叫来欺骗的行为，同样地网络犯罪分子也利用AI来欺骗消费者谋取利益。

    McAfee的这项技术旨在帮助消费者识破AI生成的语音和视频欺骗，提高数字世界的安全性。它具有广泛的应用前景。
    Media is too big
    VIEW IN TELEGRAM

  2. 大型语言模型基础知识可视化学习指南 | link | 翻译版 | #指南 #可视化

    本文收集了一系列工具和文章，通过直观的可视化方式解释大型语言模型(LLM)的基础概念。

    Jay Alammar的《图解Transformer》以生动的可视化说明了Transformer架构的工作原理。由于Transformer是所有语言模型的基石，理解它的基础尤为重要。《图解GPT-2》直观地展示了GPT-2的内部结构，如注意力机制等，有助于理解LLM的组成部分。
    Brendan Bycroft的LLM可视化工具允许直观地探索不同LLM内部状态的变化。
    Financial Times的文章解释了Transformer的重要性，以及它如何促成了生成式AI的发展。
    OpenAI的Tokenizer工具演示了Tokenizer在文本处理中的作用。
    Simon Wilson的文章深入解释了GPT Tokenizer的工作原理。
    Greg Kamradt的Chunkviz工具展示了文本是如何被LLM处理成“块”的。
    PAIR的“机器学习模型记忆还是泛化?”交互式介绍了两种学习方式及其对LLM的影响。

    这些资源从多个维度直观地说明了LLM的核心概念和机制，有助于科技从业者和爱好者更好地理解LLM技术的本质。

  5. Samantha：自主对话Agent，具备自由思考和连续说话的能力，创造出极高的逼真感和动态性，具有以下特点：

    1.动态语音，可以根据上下文自主发言，不仅限于回答问题
    2.实时视觉能力，只有在相关时才直接提到和处理视觉信息，但视觉始终影响其思维和行为
    3.外部分类记忆，可以动态地读写记忆，选择最相关的信息
    4.每时每刻都在发展，存储在记忆中的经验可以影响和塑造Samantha的行为，包括个性、说话频率和风格等。

  6. 使用transformers.js实现的前端语义搜索工具，允许用户在浏览器中进行语义搜索，计算嵌入和余弦相似度，无需服务器端推理，提供了各种配置选项，包括分割参数、高亮颜色、结果阈值等。

    工具支持多语言和各种用例，包括搜索个人笔记、文学分析等。此外，工具强调数据隐私，不会将用户输入文本发送到服务器，所有数据都保留在用户的浏览器中。

    SemanticFinder | #工具

  8. AMIE医疗诊断对话AI系统

    AMIE是一个基于大语言模型(LLM)的研究型AI系统，用于医学诊断推理和对话。它通过真实世界的数据集进行训练，包括医学推理、医学总结和真实世界的临床对话。

    AMIE使用了一种新的自弈仿真对话学习环境，可以在大量的疾病条件、专科和患者环境下提高诊断对话的质量。

    研究人员设计了一项随机双盲交叉研究，使用经验证的患者角色扮演者通过在线多轮同步文本聊天与执业医生或AMIE系统进行虚拟远程客观结构化临床考试(OSCE)。

    在149个不同科室的病例中，与20名初级保健医生相比，AMIE在诊断准确性和咨询质量的多个方面表现更好，从专科医生和患者角色的视角看是这样。

    AMIE作为辅助工具可显著提高临床医生解决复杂病例的诊断准确率，但AMIE有一定局限性，这项研究应谨慎解释，不能代表日常临床实践。需要更多研究来实现安全可靠的AI系统。

    临床专业知识仍然短缺，AMIE是探索AI系统与熟练临床医生相当属性的未来愿景的尝试，但还需要大量科学研究。