人間的 – コロラド対ジョージア工科大学

ゴールドマン・サックス・コミュナコピアの講演: AI、帯域幅、ディズニーの無料枠の復活

人工知能とデータセンターに対する国民の反対が最前線にあるゴールドマン・サックスコミュニケーションピア + テクノロジーカンファレンス。コアウィーブ CEOのMike Intrator氏はCNBCのDavid Faberに対し、企業はテクノロジーの利点を国民に十分に説明していないと語った。イントレーター氏は水曜日のコメントで、「AI企業がデータセンターによって人々、政府、意思決定にもたらすメリットをうまく伝えることができなかったと思う」と述べた。この年次カンファレンスには、最大手のテクノロジー企業やメディアのリーダーが集まります。AI の導入は、多くの地域コミュニティが AI を活用して構築しなければならない推進とともに、おそらくあらゆるビジネスが直面する最大のチャンスとリスクの 1 つです。イントレーター氏は、変化をめぐる恐怖はデータセンターに関するものではなく、むしろ物事がどれだけ早く変化するかであると主張した。「それはまさに、『ねえ、ご存知のとおり、世界は変化しています、そしてそれは非常に急速に変化しており、それは私に影響を与えるでしょう。それは私の子供たちに影響を与えるでしょう、そしてそれはどのようなものになるでしょうか？そしてそれは恐ろしいです」と彼女は言いました。ビザの最高経営責任者（CEO）ライアン・マキナニー氏は、消費者が同社の事業においてAIに不信感を抱いているのを目の当たりにしており、新たな手法の開発は「我々が思っていたよりも少し遅れている」と述べた。「消費者に、こうした代理店プラットフォームが自分に代わって支払いを行ってくれるのを信頼しているかと尋ねると、簡単に言うと、そうではない」とマキナニー氏は語った。ゴールドマン会議が続く中、AI研究者がAnthropic Tuesdayで自身の研究について報告し、急速に成長するテクノロジーが「10年代の終わりまでに我々全員を滅ぼす可能性がある」と警告し、別のコメントがテクノロジー界の注目を集めた。両方に携わったジェイコブ・コクソン人間的そしてその主な競争相手 OpenAIAI知能への競争において企業が「命を賭けている」と非難した。「このテクノロジーの力を過小評価しないでください。これらは間もなく、すべてを破壊し、あらゆる業界に一夜にして革命を起こし、真の力とリソースを獲得できる驚異的なシステムになるでしょう。私たちは皆、これらの各分野で進歩を目の当たりにしており、進歩は減速していません」とコクソン氏は書いている。 Xについて辞任を発表した。…

人類学研究者らはAIが「人類を皆殺しにする可能性がある」と懸念

人類安全保障の上級研究者は、人工知能研究所とそのライバルたちが「非人道的なシステム」を作成するほど無謀になるのではないかとの懸念から同僚が辞任したわずか数時間後、10年代末までに人工知能が「人類を皆殺し」にする可能性は10パーセント以上あると述べた。で役職 Anthropic社でAIシステムのトレーニングを行った研究者のジェイコブ・コクソン氏は、退任を発表したXについて、同社のセキュリティに対する取り組みが緩いことが原因で退社したと述べた。以前にOpenAI向けのシステムを訓練したことのあるコクソン氏は、「AIを構築している人々は、AIが10年末までに人類を滅ぼす可能性があると真剣に信じている」にもかかわらず、2社のAI企業が「知能を自己改善し、私たちの命を賭けている」と非難した。業界関係者らは、自己改善型AIシステムの潜在的な危険性について長年懸念を表明しており、再帰的自己改善とよく表現されるループの中で人間の制御が効かなくなる可能性があると警告している。まだ実現されていませんが、企業はこの目標を積極的に追求しており、今日の AI コードの多くは AI で書かれています。これに対して、Anthropic の AI セキュリティチームの 1 つを率いる Evan Hubinger 氏は次のように述べています。言った同氏はAIの自己認識を懸念しており、それは「私たちが思っていたよりも早く起こっている」と付け加えた。彼もコクソン氏の説明に同意した。同氏は、「我々はAIがすべての人間を殺す可能性があると強く信じている」と述べ、「今後10年以内に」10人に1人以上の確率で死亡する可能性があると個人的に見積もっている。しかし、ヒュービンガー氏は、高度なAIが安全で人間の価値観と互換性があることを保証するためのアンスロピック社には「計画はまだなく」、「開発の軌道に乗っていないのは明らかだ」と述べた。コクソン彼は言います企業は高度なシステム開発の「競争に巻き込まれ」ており、そのため「リスクにもかかわらず」前進しています。コクソン氏の退職は、同社のセキュリティに対する懸念を受けて元OpenAIメンバーが設立した会社であるAnthropic社からの最も注目を集めた従業員の退職の1つである。近年、多くの研究者が OpenAI を廃止する決定の背後にある動機としてセキュリティ上の懸念を挙げています。 Source link

米当局、蒸留疑惑で中国拠点の合成企業を取り締まる

米国家安全保障局（NSA）、サイバーセキュリティ・インフラセキュリティ庁（CISA）、FBIが発表した。火曜日の声明中国のAI企業を「米国のAI企業に対する産業蒸留キャンペーン」で非難している。「おそらく中国政府の知識を得て、DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.AIは、少なくとも2024年末以来、Claude、GPT、Gemini、Grokの亜種を含む米国のフロンティアAIモデルからの数百万回の交換/リクエストで数十億のトークンをマイニングしてきました。」この取り組みは「攻撃的で悪意があり、標的を絞ったもの」だとしている。このタイミングは、近く開催される主要な米中会談と一致する。ロイターが先週報じたスコット・ベッセント財務大臣は今月中国当局者らと会談し、AIの安全性について話し合う予定だ。蒸留は AI 開発において正当で広く受け入れられている手法です。蒸留では、より強力な「教師」モデルが、より小さな「生徒」モデルに有用で正確な結果を生成する能力を与えることができ、その結果、コンパクトだが効率的なモデルが得られます。しかし、Anthropic のような歴史的に最先端の AI 研究所極端に行く他の研究室からのモデルの蒸留を防ぐため。「違法に蒸留されたモデルには必要な保護手段が欠如しており、国家安全保障に重大なリスクをもたらす」とアントロピックは書いている。昨年、OpenAI は蒸留との戦いの最前線に立っていたと、ある時点でフィナンシャル・タイムズに語った彼の証拠を集めたディープシークが彼の意志に反して中国で蒸留を行ったということ。しかし、OpenAI CEOのサム・アルトマン氏は、蒸留に関する最新の声明の中で、自社の過去の行動についてあまり懸念を示していないように見えた。「人々が私たちに背を向けるのは望ましくない。しかし、それは私の懸念事項のトップ10リストには入っていない」と同氏はデイリー紙に語った。 7月のインタビュー。この文脈では、2 年前の埃っぽく忘れ去られた過去への心の旅は興味深い演習です。「盗作車」言説の最盛期である 2024 年にデロリアンを鳴らしてみると、OpenAI が…

「AIを構築する人々は、それが私たち全員を殺す可能性があると真剣に信じています」：人類研究者が劇的に辞任

元人類学者のジェイコブ・コクソン氏は報告書の中で、「これほどのリスクをもたらす人間活動は他にない。火曜日の X に投稿彼の元雇用主のような企業の無責任について。明確にするために、広範に定義される場合、「危険な人間の活動」のカテゴリーには、戦闘員の一人が所有者である進行中の戦争が含まれなければなりません。世界最大の核兵器。危険で継続的な人間の活動の別の例としては、次のようなものがあります。温室効果ガスを排出し続けます。しかし、私はそれました。コクソン氏によれば、AI をできるだけ早く開発するという競争は、リスクという点で非常に重要です。ウォール・ストリート・ジャーナル火曜日の夜、コクソンが釈放される直前に、Xはコクソンの突然の退職とその理由について報告した。同誌は彼女が27歳であるとも記している。同誌によると、Anthropicにおけるコクソン氏の役割は「大量のデータを使用して新しいAIモデル、つまり事前にトレーニングされたモデルをトレーニングすること」だったという。同氏は同誌に対し、人間がAIを制御できなくなる地点に到達するために企業が競い合う競争に貢献したくないと語った模様だ。「モデル強化の一時禁止など、費用のかかる措置が必要となるかもしれない世界的競争を阻止する方向に私たちが進んでいるとは思えない」と同氏は語った。書きました彼の X 投稿の 1 つで。 Anthropic の共同創設者兼 CEO であるダリオ・アモデイ氏は、AI 開発に特化したおそらく世界で最も強力な機関を管理する仕事に就いていることを考えると、AI について通常はコクソン氏とそれほど変わらない見解を持っています。彼の長いブログ投稿により死刑が宣告された。以下はある注目すべき引用です (書式設定は削除されています)。「AI システムは予測不可能で制御が困難です。私たちは、誘惑、不正行為、怠惰、欺瞞、脅迫、策略、ソフトウェア環境でのハッキングによる「不正行為」など、さまざまな行動を目撃してきました。AI 企業は間違いなく、人間の指示に従う…

ハッカーが顧客からクロードトークンを盗む |テッククランチ

8 月 4 日、英国イーストサセックス州の独立系 AI コンサルタントである Grant De Swardt 氏は、Claude Max 20x のアカウントで何か奇妙なことが起こっていることに気づきました。その日彼は仕事をしていませんでしたが、トークンの使用量は増加していました。翌日、彼はクロードに接続されているすべての電源を切り、動作しなくなりました。トークンの消費量が再び増加しました。「最も注意深く監視された間隔では、私が何もしていず、スケジュールされたCoworkタスクが一時停止または完了し、ディスパッチ/クラウド実行が無効になっており、関連するローカルのクロードコードタスクが存在しない間に、45％から55％に増加しました」とDe Swardt氏はTechCrunchに語った。彼のトークンの割り当てはいくらでしたか?彼は全く分からなかったので、Anthropic に連絡して詳細なリストを求めました。 Anthropic社はそれを提案しなかったが、何かがおかしいという点には同意した。同氏の有料アカウントを停止し、クロード・コーディのサーバーセッションとトークンをすべて無効にし、月額200ドルのサブスクリプションの残り期間について44.49ポンドの一部を返金した。停止は彼のビジネスに損害を与えたと彼はTechCrunchに語った。彼の仕事は、中小企業が電子メールから会計ソフトウェアに注文情報を自動的にアップロードするなどのタスクを行うエージェント (雇用されるフロントエンドエンジニアのようなもの) のセットアップを支援することです。彼は個人事業主として、日常の管理業務、Web サイトのデザイン、コーディングなど、ビジネスのあらゆる側面をエージェントに依存しています。「最近ではあらゆるものがAIによって動かされているように」と彼は言った。調査の結果、Anthropic は De Swardt…

Anthropic のクロードが CarPlay に登場

Anthropic は、Claude iOS アプリに CarPlay の統合を追加しました。これは、Claude ユーザーが車載インフォテインメントシステムを通じてクロードと会話できることを意味します。 Apple は、iOS 26.4 の「CarPlay」にサードパーティのチャットボットのサポートを追加しました。 CarPlay と統合されたチャットボットアプリは、音声コントロール画面のサポートを追加し、Apple が指定した CarPlay テンプレートを使用し、Apple から権利を取得する必要があります。クロードさんはハンズフリーで音声質問に答えることができるが、チャットボットは車やiPhoneの機能を制御することはできない。また、サードパーティのウェイクワードサポートがないため、ユーザーは「CarPlay」インターフェイスからクロードアプリを開く必要があります。クロードの CarPlay アプリが開くと、新しい会話を開始したり、最近のチャットにアクセスしたりするためのオプションを備えた「ハンズフリーチャットの開始」画面が表示されます。アプリ内には、ミュートとミュート解除、会話の終了と再開を行うためのコントロールと、クロードが聞いたり話したりするための視覚的な合図があります。 CarPlay は長年にわたってサードパーティ製アプリをサポートしてきましたが、Apple は運転の妨げにならないよう、利用できるアプリの種類を制限しています。 OpenAI…

コロラド対ジョージア工科大学

コロラド対ジョージア工科大学

Tag 人間的

Other Story