Skip to main content

黑洞资源笔记

黑洞资源笔记
黑洞资源笔记

  1. Neural Speed：旨在通过Intel Neural Compressor和llama.cpp支持的低bit量化和稀疏性的创新库，为Intel平台上的大型语言模型(LLMs)提供高效的推断能力，提供了以下实验性特性：模块化设计以支持新模型，高度优化的低精度核心，利用AMX、VNNI、AVX512F和AVX2指令集，支持CPU(仅限x86平台)和Intel GPU(正在开发中)，支持4-bit和8-bit量化。

  3. AutoML Toolkit：用于构建AutoML系统的框架，目标是通过允许研究各种AutoML设计决策的简明研究成果，使简单的原型能够扩展到可用的计算资源，并提供了一个可扩展的框架来构建真实而强大的AutoML系统

  6. 一个医疗大语言模型的综合评测框架，具有以下三大特点：

    1.大规模综合性能评测：GenMedicalEval构建了一个覆盖16大主要科室、3个医生培养阶段、6种医学临床应用场景、基于40，000+道医学考试真题和55，000+三甲医院患者病历构建的总计100,000+例医疗评测数据。这一数据集从医学基础知识、临床应用、安全规范等层面全面评估大模型在真实医疗复杂情境中的整体性能，弥补了现有评测基准未能覆盖医学实践中众多实际挑战的不足。

    2.深入细分的多维度场景评估：GenMedicalEval融合了医师的临床笔记与医学影像资料，围绕检查、诊断、治疗等关键医疗场景，构建了一系列多样化和主题丰富的生成式评估题目，为现有问答式评测模拟真实临床环境的开放式诊疗流程提供了有力补充。

    3.创新性的开放式评估指标和自动化评估模型：为解决开放式生成任务缺乏有效评估指标的难题，GenMedicalEval采用先进的结构化抽取和术语对齐技术，构建了一套创新的生成式评估指标体系，这一体系能够精确衡量生成答案的医学知识准确性。进一步地，基于自建知识库训练了与人工评价相关性较高的医疗自动评估模型，提供多维度医疗评分和评价理由。这一模型的特点是无数据泄露和自主可控，相较于GPT-4等其他模型，具有独特优势。

    GenMedicalEval | #框架

  11. OpenGFW：Linux 上灵活、易用、开源的 GFW 实现，并且在许多方面比真正的 GFW 更强大，可以部署在家用路由器上的网络主权，使用场景包括广告拦截、家长控制、恶意软件防护、VPN/代理服务滥用防护、流量分析 (纯日志模式)等