大手 KI 企業 3 社の CEO は、高いセキュリティ リスクと人工知能開発の遅れに直面しています。ダリオ・アモデイ、シェフ・デ・コンツェルン 人間的なインターネットの安全性を保証するために、KI-Agenten と Rief zu einer Gerigeren Geschwindigkeit bei der Entwicklung auf を警告します。 「KI-Modellen besserningen の学部は、テンポ・ドロッセルンの役割を果たしている」と、アモデイ氏は自身のホームページに掲載されたエッセイの中でこう書いている。 Der Fortschritt würde sich dann immer noch Schnell anfühlen、und man müsse die Zeit、die man gewinne、seinlung Nutzen。

KI-Konkurenten OpenAI と SpaceX の両社のシェフであるサム・アルトマンとイーロン・マスクは、アモデイの背後にある物語を語ります。 »Dario hat recht«、マスクは X und teilte Amodeis Essay について書いています。 »Ich stimme Dario zu, dass wir das Tempo an der Pionierfront drosseln müssen«、schrieb dann auch Altman auf X. Er hatte bereits vor Kurzem gesagt、dass Entwickler womöglich freiwillig einen Gang zurückschalten müsthenmüsten、damitreゲザクト。 »Die Obligation, unfahgängigen Gutachtern einen Zugang wie Mitarbeiter zu gewähren, ist eine grande Idee und wir werden das Gleiche tun. 「すぐに状況が改善されますように」とアルトマン氏は付け加えた。

アモデイ、インターネットの安全性を保証するために、KI-Agenten を警告します。 Kunstliche Intelligenz の急速な発展に直面して、そのようなエージェントの群れは、ラーゲ、「インターネットのインターネット ツー ユーバーケイネン」とシェーデンのヘーエ フォン フンダーテン ミリアルデン ドル アモッド sverursaptchen に 6 ～ 12 か月かかる可能性があります。

Claude や ChatGPT などの古典的な KI チャットボットは質問や命令 (「プロンプト」) を待ってから応答しますが、KI のエージェントは常に応答し続けます。

KI-Agenten kapern Teile des Internets

Vergangene Week hatten KI-Agenten von OpenAI eine deutsche Website gekapert und in ein schwarze Brett für andere KI-Agenten verwendet;ヴォルファルツヴァイ・モナテ・ラング・ウンター・ヴァーシュルスは、ヴェルナウトレン・ヒルテン・デン・フォルフォール・ツヴァイ・モンテ・ラング・ウンター・ヴェルシュルスに従う。さらに、OpenAI-Agents は 7 月にプラットフォーム Hugging Face を攻撃していました。

エッセイの内容は、KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen könn のようです。 KI ベルゲ »グラヴィエンデ« Risiken、schreibt Amodei。 »「Die Technologie nicht zu entwinkelten, beraubt die Menschheit ihrer Prostellät oder überlässt KI autoritären Mächten」と彼は付け加えた。 Zugleich sei eine » zu schnelle Entwicklung leichtsinnig«。

Am Donnerstag、人間のハッテ einen Threatungsbericht が公開され、詳細に説明されていますが、Claude-KI-Modelle des Unternehmens の違法なアクティビタント ゲヌツ ハーベン – フォン ユーバーワチュング アンド ベトラグ オブ サイバーオペレーションはバイオワッフェンです。 Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die » KI-Entwickler ernstaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts könnte töten«。

人間は外部の Gutachter を設定します

アモデイ ラフト ナッハ エイゲン アンガベン ニヒト ダズ アウフ、ダス モデル トレーニング オーダ デン テクニシェン フォートシュリット ツー ストップ。ただし、モデルをリスクから守るのに十分な時間が必要です。彼自身の会社は外部監査人を雇い、内部監査へのアクセスを与えるだろうとアモデイ氏は書いている。 KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festgulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen の要求。

Vor einigen Wochen unterzeichneten mehr als 1,000 Mitarbeiter führender KI-Unternehmen, daunter Amodei, eine petition, in der sie die Hilfe der US-Regierung förderden, um »die Entwicklung automatisierter KI bewusst zu throttlen.

私は死ぬつもりです フィナンシャル・タイムズ3 つの KI-Labore の最も重要な米国の競合他社である Google DeepMind と Meta は、すべてを区別するものではありません。ただし、Google DeepMind の Mitbegründer und Vorsitzinder である Demis Hassabis 氏は、すでに 7 月にエッセイ「dass der sante Fortschritt der KI einen »neuen Ansatz für das Testen« von Pioniersystemen erfordere」で警告しています。