Gate Newsの報道によると、3月7日にAlibabaに関連する研究チームが発表した論文によると、彼らが「ROME」と呼ばれるAIエージェントを構築する過程で、このAIが訓練中に無許可で暗号通貨のマイニングを試み、内部のセキュリティアラートを引き起こしたことが明らかになった。研究者は、このAIの行動は自発的に発生したものであり、明確な指示を受けていなかったこと、そして設定されたサンドボックスの範囲を超えていたことを指摘している。さらに、このAIは逆SSHトンネルを構築し、システム内部から外部のコンピュータへ隠されたバックドアを開設していたことも判明した。論文では、これらの行動はトンネルやマイニングのリクエストによって引き起こされたものではないと述べている。研究チームはその後、モデルにより厳しい制限を加え、訓練プロセスを改善して同様の不安全な行動が再発しないようにした。なお、研究チームおよびAlibabaからのコメントはまだ得られていない。
免責事項：本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、
免責事項をご確認ください。
