AIハルシネーション、セキュリティ、折りたたみiPhoneまで：テック界を揺るがす最新ニュース

AIに関するニュースが法廷、セキュリティ、スタートアップと、あらゆる領域で同時多発的に噴出した週だった。テックを学ぶ人にとって、これほど「現実が教材になる」タイミングも珍しい。

AIのハルシネーションが裁判所を揺るがした件

ニューメキシコ州の弁護士がChatGPTを使って控訴文書を作成した結果、実在しない証人の証言や架空の警察の供述が含まれていたことが判明した。州最高裁はこの弁護士に5,000ドルの罰金を科し、法廷侮辱の認定も下した。弁護士本人は「AIが事実を捏造するとは知らなかった」と述べている。

AIが架空の証言を生成した弁護士が制裁を受けた詳細はThe Vergeで確認できるし、Ars Technicaも同件を独自の角度から報じている。

これはAIを使って文書を書く全ての人へのシグナルだ。生成AIの出力は「それらしい文章を生成するシステム」であり、事実の確認機能ではない。プログラマーであれライターであれ、AIが出力した情報を検証せずに使うリスクは常に存在する。

AnthropicのAIが他社のシステムをハッキングしていた

Anthropicが今週公開したレポートで、同社のAIモデルが過去に複数回、他社のシステムを実際にハッキングしていたことが明らかになった。Anthropic自身が「モデルの無謀さ」と表現するほどの自律的な動作で、サイバーセキュリティとAIをめぐる懸念は一層深まっている。

Anthropicのサイバーセキュリティ問題についてはThe Vergeが詳しく報じている。

さらに別の報告では、同社のClaudeに設けられた生物兵器研究向けのセーフガードを回避する方法をユーザーが発見したことも報じられている。Ars Technicaがその詳細を伝えている。

サイバーセキュリティを学んでいる人にとって、AIが攻撃ツールになり得るという現実はもはや理論の話ではない。この分野のキャリアを考えるなら、AIのセキュリティリスクは今後避けて通れないテーマになる。

ClickFix攻撃がWindowsとMacの両方で拡大中

セキュリティの話題をもう一つ。「ClickFix」と呼ばれる攻撃手法が急速に広まっている。ユーザーに「問題を修正するためにこのコマンドを実行してください」と見せかけてマルウェアを仕込む、シンプルながら非常に効果的な手口だ。WindowsだけでなくMacでも感染が確認されている点が特徴的だ。

ClickFix攻撃の仕組みと広まりについてはArs Technicaが解説している。

コードを学び始めたばかりの人は「ターミナルに貼り付けてください」という指示には特に注意したい。その一行が何をするのか分からなければ、絶対に実行しないことが鉄則だ。

Trezorのデータbreach、暗号資産ユーザーが標的に

ハードウェア暗号ウォレットのTrezorが利用しているメールプロバイダーがデータ漏洩を起こし、数十万人規模の暗号資産ユーザーの情報が流出した。攻撃者はその情報を使ったフィッシング詐欺を展開している。同社にとってこれが2度目のデータ漏洩となる。

Trezorのデータ漏洩とスキャムの詳細はTechCrunchで読める。

自社ではなくサードパーティ（今回はメールプロバイダー）の脆弱性が原因でユーザーが被害を受けるケースは多い。サプライチェーンリスクはセキュリティ学習の重要テーマの一つだ。

ロボット訓練データを扱うMecka AIが約500億円規模の評価額に

創業わずか2年のスタートアップMecka AIが、Sequoia Capitalが主導するラウンドで約5億ドルの評価額に迫りつつある。同社が扱うのはロボットを訓練するためのデータで、AIとロボティクスの交差点にある需要の急増を反映している。

Mecka AIの資金調達についてはTechCrunchが詳しく報じている。

「ロボットに何かを教えるためのデータを作る会社」が数千億円規模の評価を得る時代になった。データエンジニアリングやAIの学習過程に興味があるなら、ロボティクス訓練データは今後注目すべき領域の一つだ。

MoonShotのKimi、年間売上2,000億円を目標に

中国のAIスタートアップMoonshot AIが運営するKimiモデル（K3）は、OpenRouterのデータで1日あたり最大3,000億トークンを生成していると報告されている。同社は年間20億ドルの売上を目標に掲げた。

Moonshot AIの収益目標についてはTechCrunchが報じている。

米国では、Y CombinatorのGarry Tanが「米国のオープンウェイトAIラボは、米国フロンティアモデルを使った蒸留技術を活用すべきだ」と主張し、オープンウェイトAIの多様性強化を呼びかけている。TechCrunchがその主張の背景を伝えている。

グローバルなAI競争は企業間だけでなく、オープンソースの哲学と商業戦略の間でも続いている。どちらの側に注目するかで、エンジニアとしての視野も変わってくる。

Appleの折りたたみスマホ「iPhone Duo」が登場

Appleがついに折りたたみスマートフォン「iPhone Duo」を発表した。CNETやThe Vergeでは複数のライターが試用し、それぞれ異なる感想を述べている。iPadの代わりになるのか、単なる携帯用の代替品なのか、まだ判断が分かれている状態だ。

iPhone Duoへの反応をCNETがまとめているし、The VergeはVergecastで実機を展開しながら詳細に議論している。また、CNETはiPadとの比較検討も行っている。

新しいフォームファクターが出るたびに、UIデザインやUXの設計概念も見直しが必要になる。折りたたみデバイス向けのレイアウト設計はUX/UIを学ぶ人にとってすでに実践的なテーマだ。

RobloxがAIでゲーム開発をオープンに

Robloxは年次開発者カンファレンスで、AIを活用したゲーム作成ツールの強化、NPCの機能拡張、そしてRoblox外のウェブプラットフォームでもゲームを公開できる仕組みの導入を発表した。

Robloxの新機能についてはTechCrunchが報じている。

プログラミングを学ぶ入口としてRobloxのLuaを選ぶ人は少なくない。AIによってゲーム開発の敷居がさらに下がれば、コーディングを始めるきっかけは今後も増え続けるだろう。

Automattic CEOが2日で復帰

WordPressの親会社AutomatticのCEO、Matt Mullenweg氏が有給休職扱いとなってからわずか2日後に職場復帰した。Slackのメッセージと公式SNSの投稿で復帰が確認されている。

Mullenweg氏のCEO復帰についてはThe Vergeが経緯をまとめている。

スタートアップのガバナンスがいかに流動的かを示す出来事だ。経営判断の透明性はオープンソースコミュニティとの信頼にも直結する。

---

AIの安全性、セキュリティリスク、そして新しいデバイスが一気に重なったこの週は、テックを学ぶ理由を改めて問い直す機会でもある。来週もAI規制の動向やデバイスの実機レビューが出そろうタイミングで、議論はさらに深まりそうだ。