OpenAI 网络安全资助计划
OpenAI 网络安全资助计划旨在通过资助与其他支持，推动防御者开发以 AI 驱动的网络安全能力。
#OpenAI
#OpenAI
今日 0 条OpenAI NewsAI 评分3737
OpenAI News精选AI 评分6767 OpenAI 用过程监督提升数学推理能力
OpenAI 通过奖励每个正确推理步骤（过程监督）而非仅奖励最终答案（结果监督）训练模型，在数学问题求解上达到新的 SOTA。过程监督还直接训练模型生成人类认可的链式推理，带来对齐收益。
推荐理由：文章对比了过程监督与结果监督两种训练方式，指出奖励每个正确的推理步骤不仅能提升数学性能，还能带来对齐收益。
OpenAI NewsAI 评分5858 OpenAI 启动 AI 民主输入资助计划
OpenAI 非营利组织宣布启动一项资助计划，将发放十笔 10 万美元资助，用于实验如何以民主流程决定 AI 系统应遵循的规则。该计划要求实验在法律界定的范围内进行。
OpenAI NewsAI 评分3232 OpenAI：超级智能的治理
OpenAI 表示，当下是开始思考超级智能治理问题的合适时机。超级智能指能力远比 AGI 更强大的未来 AI 系统。
OpenAI News精选AI 评分8484 ChatGPT iOS 应用发布
OpenAI 推出 ChatGPT iOS 应用。该应用支持对话同步与语音输入，并集成最新的模型改进。
推荐理由：官方宣布 ChatGPT iOS 应用发布，支持对话同步与语音输入，读者可据此了解该应用的核心功能。
OpenAI NewsAI 评分5555 OpenAI 研究：用 GPT-4 自动解释语言模型中的神经元
OpenAI 用 GPT-4 自动为大型语言模型中神经元的行为编写解释并打分，并发布了覆盖 GPT-2 全部神经元的解释与评分数据集。这些解释并不完美，数据集可用于可解释性研究。
OpenAI News精选AI 评分6767 ChatGPT 推出数据管理新方式
OpenAI 宣布 ChatGPT 用户现在可以关闭聊天记录，自行选择哪些对话可用于训练其模型。
推荐理由：原文说明了关闭聊天记录这一功能的具体定位，读者可据此判断它对个人数据隐私和模型训练数据控制的影响。
OpenAI NewsAI 评分4949 OpenAI 宣布推出漏洞赏金计划（Bug Bounty Program）
OpenAI 宣布推出漏洞赏金计划（Bug Bounty Program），称这是其致力于开发安全、先进 AI 承诺的重要组成部分。OpenAI 表示，在打造安全、可靠、可信赖的技术与服务时，需要大家的帮助。
OpenAI NewsAI 评分1111 OpenAI 的 AI 安全方法
OpenAI 表示，确保 AI 系统在构建、部署与使用各环节的安全，对其使命至关重要，安全贯穿 AI 系统从开发到应用的全流程。
OpenAI News精选AI 评分6262 ChatGPT 3 月 20 日宕机：发生了什么
OpenAI 发布 3 月 20 日 ChatGPT 宕机事件的调查更新，说明了调查发现、已采取的应对措施以及该 bug 的技术细节。
OpenAI News精选AI 评分8888 ChatGPT 推出插件功能
OpenAI 宣布 ChatGPT 初步支持插件功能。插件以安全为核心原则，帮助语言模型获取最新信息、执行计算或使用第三方服务。
推荐理由：官方说明了插件让 ChatGPT 获取最新信息、执行计算并调用第三方服务，读者可据此判断它如何扩展模型的能力边界。
OpenAI News精选AI 评分7171 GPTs are GPTs：大语言模型对劳动力市场影响潜力的早期观察
OpenAI 发布题为《GPTs are GPTs》的研究，初步探讨大语言模型对劳动力市场的影响潜力。
推荐理由：这是 OpenAI 对大语言模型劳动力市场影响潜力的早期研究，为理解 AI 如何改变工作内容提供了背景参考。
OpenAI NewsAI 评分3737 Khan Academy 探索以 GPT-4 驱动课堂虚拟教育
Khan Academy 在一项有限试点项目中探索 GPT-4 的应用潜力，旨在为课堂虚拟教育提供支持。
OpenAI NewsAI 评分3232 Be My Eyes 使用 GPT-4 改变视觉无障碍
Be My Eyes 使用 GPT-4 改变视觉无障碍体验。
OpenAI NewsAI 评分2929 Stripe 利用 GPT-4 优化用户体验并打击欺诈
Stripe 利用 GPT-4 优化用户体验，并借助该模型打击欺诈行为。
OpenAI NewsAI 评分5858 GPT-4 深化 Duolingo 的语言学习对话
GPT-4 被引入 Duolingo，用于深化平台上的对话练习，帮助填补关键的语言学习缺口。
OpenAI News精选AI 评分9898 OpenAI 发布 GPT-4
OpenAI 发布 GPT-4，这是其深度学习规模化推进的最新里程碑。GPT-4 是大型多模态模型，接受图像和文本输入并输出文本；虽然在许多真实场景中能力不及人类，但在多项专业和学术基准上表现出人类水平。
推荐理由：官方说明给出了 GPT-4 的多模态输入能力与基准表现定位，读者可据此判断它相对前代的能力边界。
OpenAI NewsAI 评分3636 冰岛如何用 GPT-4 为未来保护其语言
冰岛正在使用 GPT-4 保护其语言，让这一语言为未来而留存。
OpenAI News精选AI 评分9292 GPT-4
GPT-4 可与用户共同生成、编辑并迭代创意与技术写作任务，例如作曲、撰写剧本或学习用户的写作风格。
推荐理由：官方介绍了 GPT-4 在创意与技术写作任务上的生成、编辑和迭代能力，读者可了解其如何与用户协作完成写作。
OpenAI News精选AI 评分8181 OpenAI 推出 ChatGPT Plus 试点订阅计划
OpenAI 为 ChatGPT 推出 ChatGPT Plus 试点订阅计划。ChatGPT 是一款对话式 AI，可与用户聊天、回答后续问题并质疑错误假设。
推荐理由：OpenAI 为 ChatGPT 推出试点订阅计划，读者可据此了解该产品新增的付费服务形态。
OpenAI NewsAI 评分5757 OpenAI 推出可识别 AI 生成文本的新分类器
OpenAI 推出一款新的分类器，该分类器经过训练，可用于区分 AI 生成的文本与人类撰写的文本。
OpenAI News精选AI 评分7272 OpenAI 与 Microsoft 延续合作伙伴关系
OpenAI 宣布与 Microsoft 延续双方的合作关系。
OpenAI NewsAI 评分4949 OpenAI 预测大语言模型被滥用于虚假信息活动的风险及如何降低风险
OpenAI 研究人员与乔治城大学安全与新兴技术中心、斯坦福互联网观察站合作，调查大语言模型被滥用于虚假信息活动的风险。合作包括 2021 年 10 月一场汇聚 30 名虚假信息研究人员、机器学习专家和政策分析师的研讨会，最终形成基于一年多研究的联合报告。报告概述了语言模型若被用于增强虚假信息活动将对信息环境造成的威胁，并提出了一个分析潜在缓解措施的框架。
OpenAI NewsAI 评分1818 用 GPT-3 从客户反馈中提炼细致洞察
OpenAI 用 GPT-3 从客户反馈中快速提炼细致洞察。该方案可帮助团队从客户反馈中高效提取有价值的见解。
OpenAI NewsAI 评分1717 OpenAI 微调 GPT-3 以驱动并扩展全托管视频创作
OpenAI 通过微调 GPT-3，为“全托管”视频创作服务提供支持，并使其内容生产能够规模化扩展。微调后的 GPT-3 被用于驱动该服务。
OpenAI NewsAI 评分1919 用 GPT-3 打造下一代 AI 角色
OpenAI 正在使用 GPT-3 打造下一代 AI 驱动的角色。
OpenAI NewsAI 评分5050 Point-E：从复杂提示词生成 3D 点云的系统
OpenAI 的 Point-E 是一个能从复杂提示词生成 3D 点云的系统。
OpenAI NewsAI 评分5656 OpenAI 发布全新改进的嵌入模型
OpenAI 宣布推出全新的嵌入模型，官方称其能力更强、成本更低且更易于使用。
OpenAI News精选AI 评分9191 OpenAI 发布 ChatGPT
OpenAI 发布了名为 ChatGPT 的对话式模型。对话格式使其能够回答追问、承认错误、质疑错误前提并拒绝不当请求。原文链接：https://openai.com/index/chatgpt
推荐理由：这是 OpenAI 发布 ChatGPT 的原始公告，对话格式让它能回答追问、承认错误、质疑错误前提并拒绝不当请求，适合了解该产品的最初定位。
OpenAI News精选AI 评分7373 DALL·E API 公开测试版现已上线
OpenAI 宣布 DALL·E API 现已进入公开测试阶段，开发者从今天起可以使用该 API 构建应用。
OpenAI News精选AI 评分7373 DALL·E 取消等待名单，新用户可直接使用
OpenAI 宣布 DALL·E 取消等待名单，新用户可以直接开始创作。官方表示，部署过程中的经验积累和安全系统的改进使更广泛的开放成为可能。
推荐理由：DALL·E 取消等待名单使新用户可直接开始创作，官方将此次扩大开放归因于部署经验积累与安全系统改进。
OpenAI News精选AI 评分7575 OpenAI 发布开源语音识别模型 Whisper
OpenAI 训练并开源了名为 Whisper 的神经网络，称其在英语语音识别上的鲁棒性和准确率接近人类水平。
推荐理由：Whisper 以开源形式发布，读者可直接获取模型并评估其在英语语音识别场景中的实际表现。
OpenAI News精选AI 评分6868 DALL·E 推出 Outpainting 功能
DALL·E 推出 Outpainting 功能，支持生成任意尺寸的图像，帮助用户延伸创意并讲述更大的故事。
OpenAI NewsAI 评分3535 OpenAI 对齐研究的方法
OpenAI 正在改进其 AI 系统从人类反馈中学习的能力，并让 AI 协助人类评估 AI。其最终目标是构建一个充分对齐的 AI 系统，以帮助解决所有其他的对齐问题。
OpenAI NewsAI 评分5858 OpenAI 发布新版内容审核工具 Moderation endpoint
OpenAI 推出新的内容审核工具 Moderation endpoint，即日起免费向 OpenAI API 开发者开放，相比此前内容过滤器有所改进。
OpenAI NewsAI 评分5959 OpenAI 高效训练语言模型以实现中间填充
OpenAI 发表研究，探讨如何高效训练语言模型使其具备中间填充（fill-in-the-middle）能力。
OpenAI News精选AI 评分7777 DALL·E 现已进入 Beta 阶段并向等待名单用户开放
OpenAI 宣布 DALL·E 进入 Beta 阶段，将在未来几周向等待名单中的 100 万用户发出邀请。用户每月可获得自动补充的免费额度，也可以按 115 次生成 15 美元的价格额外购买额度。
推荐理由：OpenAI 说明了 DALL·E 的开放节奏与计费方式，读者可据此判断自己能否用上以及试用成本。
OpenAI NewsAI 评分4848 DALL·E 2 减少偏见并提高安全性
OpenAI 为 DALL·E 2 引入一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性。此举旨在减少模型偏见，并进一步提高生成内容的安全性。
OpenAI NewsAI 评分4444 DALL·E 2：拓展创造力
DALL·E 2 研究预览期间，来自 118 个国家的 3000 多位艺术家已将 DALL·E 融入其创作工作流。早期访问组的艺术家帮助发掘了 DALL·E 的新用途，并作为关键意见方参与了 DALL·E 功能相关决策。
OpenAI NewsAI 评分3939 DALL·E 2 的预训练缓解措施
OpenAI 为 DALL·E 2 引入了多种预训练防护机制，以降低强大图像生成模型带来的风险。这些措施可防止生成的图像违反内容政策，从而支持该模型向广大受众开放。