カテゴリー： AI安全性
- AGIへの誤った道：上海AILabの衝撃的発見、自己進化型インテリジェントエージェントが「誤進化」する可能性
- 疎な回路を通じたニューラルネットワークの理解
- 大規模モデルの「闇落ち」スイッチ！Anthropicチームの新作：大規模モデルの人格変数がついに人類に発見される！ペルソナドリフトツールチェーンを提案し、モデルを狂わせるブラックボックスを最終的に解明
- AIの「二重人格」が露見、OpenAIの最新研究でAIの「善悪スイッチ」を発見、ワンクリックでダークサイドへ切り替え可能に
- AIが自らネットワーク管理者となり、安全な「アハ体験」を実現し、リスク率を9.6%削減
- Sakana AIの新研究：自己符号化改善と自己参照的オープンエンド進化能力を持つダーウィン-ゲーデルマシンの誕生
- マルチモーダル大規模モデルが軒並み失敗、GPT-4oの安全合格率はわずか50%：SIUOがクロスモーダルな安全盲点を明らかに
- 10年の苦心も実らず、数千万の費用が無駄に！AIブラックボックスは未解決、Googleは面目を潰す
- チューリング賞受賞者、「AIのゴッドファーザー」ヒントン：超知能が覚醒する時、人類は制御不能になるかもしれない
- AGI競争は制御不能へ？MIT：最強の監視下でも制御不能確率は48%超、完全制御不能リスクは90%超！
- 大規模言語モデルは、決して汎用人工知能への終着点ではない！