奉银馆株式会社的AI操作系统
“MARIA OS”正式宣布进入“自主进化”阶段
奉银馆株式会社（总部：东京；社长兼CEO：坪内弘树）宣布，其自主研发的AI操作系统“MARIA OS”已进入自主进化阶段。
在此阶段，即使开发者没有发出具体的改进指令，MARIA OS也会持续进行自我改进。具体而言，系统会生成拉取请求、实施修复程序，并不断更新改进周期，这让开发者获得了越来越强的成就感。
“人工智能变得更智能了。”
此声明并非针对常见的误解，例如“人工智能的进化脱离了人类的控制”或“人工智能的出现使人类变得多余”。
其本质恰恰相反：我们已经正确地划定了人类应该设计什么和应该委托给别人设计的界限。MARIA OS 的演进并非基于放任自流，而是基于在既定原则框架内持续改进的系统。
自主演化的基石并非“炫目”，而是“坚不可摧的设计”。
MARIA OS 最初并非以自主演化为目标而设计。
它的起点是一系列非常朴实实用的设计。
| 始终记录你的决策 |
| 记录你做出该决策的原因 |
| 建立一套允许你在犯错时回溯的结构 |
| 加入限制条件以防止改进失控 |
如果没有这种积累，自主演化可能会失控，而非演化。Bonginkan 公司表示，基于他们观察到的许多人工智能案例——这些案例表面上看起来在进步，但实际上却崩溃了——他们优先考虑的是一种能够持续演化而不崩溃的架构，而不是速度。
现在发生的不是“有目标的AI”，而是“自动化改进流程”。
当前的MARIA操作系统并非一个AI自行设定目标并自主运行的系统。它作为一个系统运行，在既定的约束条件和决策规则下，不断选择最佳状态。
这并非生物进化，而是……
| 识别当前情况 |
| 发现差异 |
| 进行修正 |
| 验证并实施 |
整个研发过程已接近自动化，目前已证实改进周期已开始在无人干预的情况下运行。
如今，驱动力不再是人工智能，而是设计。
关于这一转变，该公司强调，推动变革的并非人工智能，而是设计。人工智能能够自主持续改进的环境越完善，人类的作用就不会消失，反而会更加清晰。
以下领域只有人类才能做出决策：
| 你能容忍到什么程度？ |
| 你必须绝对保护的是什么？ |
| 你会在什么情况下停止？ |
| 如果出了问题，谁来承担责任？ |
通过承担改进的责任，MARIA OS 将使人类能够专注于更根本的问题，即设计和责任领域。这并非仅仅意味着“让事情变得更简单”，而是回归到需要决心和毅力的领域。
自主性并非放任自流 | 迈向能够停止、回滚和解释的人工智能
当人工智能开始自我进化时，人们不可避免地会担忧它会变得无法控制。MARIA OS 承认这种担忧不无道理，并明确指出不受控制的自我进化是危险的。因此，MARIA OS 将自主性定义为在既定原则范围内持续选择最佳行动方案，而非“随心所欲”。此外，该公司还列出了以下关键设计要点：
| 不要超越极限进行改进 |
| 如果看起来要超出极限，就停止改进 |
| 之后可以解释停止的原因 |
该公司认为，加上这些因素，已经实现了“可用自主性”。
迈向人工智能新时代 | 人类设计原则，人工智能持续改进的架构
我们正从重复执行单个指令的人工智能过渡到由人类设计原则，并在这些原则框架内持续改进的系统。此时此刻，重要的不是炫酷或速度，而是安全性、可复现性和可验证性——即解释、停止和回滚的能力。
MARIA OS 已满足这些先决条件，正式进入自主演化阶段。
MARIA OS Enterprise Universe 3D
以下内容已发布，让您体验“MARIA OS”的世界观和理念。
MARIA OS 企业宇宙 3D
https://maria-code.ai/enterprise/universe/3d
文章摘要
- 邦仁馆公司宣布，其人工智能操作系统“MARIA OS”已进入自主进化阶段。
- 该公司确认，即使没有发出任何指令，生成、修正和改进拉取请求的循环仍在持续累积。
- 这并非“人工智能失控”的案例，而是人类正确定义设计范围和职责的体现。
- 自主进化的关键在于构建一个能够实现无缝进化的架构，包括日志记录、可解释性以及停止和回滚功能。
- 随着“人为设计，人工智能持续改进”模式的日益普及，可解释、可停止和可回滚的人工智能设计将变得愈发重要。
■新闻稿来源：Bonginkan Co., Ltd.
No comments yet.