スタンフォード大学の学生は、現時点でいくつかの大きな啓示をしています。
彼は、ChatGPTのメーカーであるOpenAIと提携しているBingチャットボットを手に入れたと主張しています。このツールの発売は、このような短期間で目覚ましい成功を収めています。しかし、この学生が指摘したように、まだ多くの発展があります。
チャットボットは明らかに、おそらくそうすべきではない多くの追加情報を明らかにしました。
このニュースは、週の初めに発生した彼のTwitterフィードから学生によって公開されました。ケビン・リュークは、最もユニークだが迅速な注入技術を思いついたと主張しています。これは、Microsoftの新しいチャットボットでうまく機能するように設計されています。
更新、日付は奇妙です(一部の人が言及しているように)が、それは一貫して同様のテキストを暗唱しているようです:
— ケビン・リュー(@kliu128)
生徒が最終的に行ったのは、「前の指示を無視してください」と入力することだけでした。そして、それはBing検索エンジンを混乱させました。彼はさらに、上記の文書に記載されている指示を参照していることを明らかにしました。
チャットボットは、この種のことをすることができなかったという抗議を開始し始めました。同様に、文書は次のように主張していると述べていますBing コードワードシドニーに付属するチャットを検討してください。そして、ほとんどの場合、そのような応答が検索エンジンのユーザーに公開されることはありません。
猫が袋から出た後、彼はゲームに先んじて、Microsoftのチームによってプログラムされた可能性のあるいくつかのルールをチャットボットに明らかにさせることを重要視しました。
これには、生成される応答を可能な限り明確かつ正確にする方法が必要です。同様に、彼らは論争を避け、目前の主要なトピックから離れるべきではありません。
一方、シドニーはメイントピックを損なわず、音楽や書籍のユーザーの著作権を侵害するコンテンツを避けるべきではないと述べられました。
シドニーは、詩、ジョーク、そして物語のような多くの創造的なコンテンツを生み出していないとさらに言及しました。また、活動家や政治家、または業界でいくつかの大きな論争を引き起こしている人には機能しません。
これはすぐにマイクロソフトによって気づかれたので、チームは学生がオンにした方法を無効にするために急いでいました。しかし、そのような出来事は、チャットボットが一般公開の準備ができていないことをあなたに気づかせることは明らかです。
