ディスコード研究所 
ディスコード社は、米政府機密文書の流出が同社のプラットフォームで行われたことについて、声明を出しました。同社のプラットフォームで政府機密文書が公開されることは通常ではありません。そのため、政府機密文書が機密指定されているかどうかは、政府の許可を得た人物にしか判断できず、現在のところ、政府からその判断を伝えるための構造化されたプロセスは存在していません。しかしながら、政府機密文書の非承認された漏洩は、同社の利用規約に違反するものであり、同社はこの件に関して、コンテンツを削除し、ユーザーアカウントを解除し、米国国防総省と司法省の調査に協力しています。そして、容疑者が逮捕されたにもかかわらず、同社は自社の内部調査を続けています。
同社は、約1億5000万人のユーザーが利用するコミュニケーションプラットフォームであり、Discordの安全性は最優先事項です。この事件で目撃されたような違法なコンテンツの投稿や人種差別的な行動は、Discord上で歓迎されないものです。Discordの信頼性と安全性を高めるために、同社は規則に違反するコンテンツを早急に削除する方針を取っています。
同社は、安全性に関するタレントやリソースを投資し、セーフティポリシー、エンジニアリング、データ、および製品チームに約15％の従業員を割り当てています。同社の目的は、安全なインターネットを作ることであり、PhotoDNA画像ハッシングを使用して不適切な画像を特定したり、機械学習モデルを使用して不適切なコンテンツを特定および修正するなど、多くの取り組みを行っています。同社は、ファミリーオンラインセーフティーインスティテュート、National Center for Missing & Exploited Children、Tech Coalition、Global Internet Forum to Counter Terrorismなどの機関と協力しており、ユーザー保護に取り組んでいます。
これによって、Discordは安全なコミュニケーションプラットフォームを提供するために、積極的に取り組んでいることが伝わります。
最後に、この声明はDiscordが安全でポジティブなプラットフォームであることを強調しています。ヘイトスピーチや脅迫行為、暴力的な極端主義には、Discord上には場所がないことが明確に述べられています。この声明によって、Discordはユーザーの安全性に真剣に取り組んでいることを示し、不適切なコンテンツや行動に対して速やかに対応していることがわかります。
要約すると、Discordは、Discord上でクラスファイド情報が共有されたことに対するDiscordの対応を述べています。不正な情報の共有はDiscordの利用規約に違反するため、Discordは関連するコンテンツを削除し、ユーザーアカウントを停止し、アメリカ国防総省や司法省の捜査に協力しています。Discordは、安全なプラットフォームを提供するために、積極的に取り組んでおり、ヘイトスピーチや脅迫行為、暴力的な極端主義に対しては、厳しい方針を取っています。Discordは、世界中のユーザーが安全でポジティブな環境でコミュニケーションを取ることができる場所であることを強調しています。
【Discordが発表した声明(一部、和訳)】
「ペンタゴンリークに対する私たちの対応」
ペンタゴンのリークに対する当社の対応
ここ数日、機密とされる米国政府の文書がDiscordのサーバーで共有されました。Discordでの会話は通常、ビデオゲーム、音楽、アート、スポーツなど、世界中のユーザーの関心事に関連しています。
機密軍事情報文書は、他のオンラインプラットフォームと同様に、Discordにとっても重要で複雑な課題をもたらします。文書が機密か非機密か、あるいは本物かどうかを判断できるのは、権限を与えられた政府関係者のみです。そして現在、政府がその判断をDiscordのようなプラットフォームに伝えるための体系的なプロセスは存在しません。
しかし、はっきりしているのは、政府機密文書の不正な開示は、Discordの利用規約に違反し、当社のプラットフォームへの違法なコンテンツの投稿を禁じていることです。このため、この事件に関連して、当社はコンテンツを削除し、ユーザーアカウントを停止し、米国国防総省と司法省のこの事件に関する捜査に協力しています。また、容疑者が逮捕されましたが、私たちはこの事件に関して独自の内部調査を続けています。
Discordは、共有する体験を通じて人々を結びつけるコミュニケーション・プラットフォームです。世界中の1億5千万人以上の人々が、毎月私たちのプラットフォームを利用して、連絡を取り合い、人生で最も重要な人々と時間を過ごしています。
Discordをオンラインホームとするすべての人々とコミュニティの安全は、最優先事項です。今回の事件で見られた違法なコンテンツの投稿や人種差別的な行動は、Discordでは歓迎も許可もされません。
以下は、今回の事件に関して私たちが共有できることの要約で、私たちの実践に関する行動や詳細が含まれています。
現在の状況のまとめ ╱200D
調査が進行中であるため、限られた詳細しかお伝えすることができません。ただ、当初はDiscordの招待制の小さなサーバーで共有されていたようです。元のサーバーは削除されましたが、その後、資料が複数の追加サーバーに出現しています。
当社の利用規約では、違法または犯罪目的のためにDiscordを使用することを明示的に禁止しています。これには、検証可能なほど機密である可能性のある文書の共有も含まれます。Discordでコミュニティを形成する圧倒的多数の人々とは異なり、このグループは規範を逸脱し、私たちのルールを破り、明らかな法律違反でそれを行った。
私たちの使命は、Discordがオンラインで友人と過ごす場所となることです。その使命には、Discordをユーザーにとって安全でポジティブな場所にする責任も伴います。たとえば、私たちのポリシーでは、ヘイトスピーチ、脅迫、暴力的な過激派は私たちのプラットフォームには存在しないと明確に説明しています。DiscordのTrust and Safetyチームが、私たちのルールに違反するコンテンツを知ると、迅速に対処して削除します。今回の例では、資料の最初の配布に関わったユーザーを追放し、私たちの規約に反すると判断したコンテンツを削除し、問題の資料を共有し続けているユーザーに対して警告を発しました。
ポジティブなユーザーエクスペリエンスを提供するためのアプローチ
この最近の事件は、根本的に私たちのプラットフォームの誤用であり、私たちのプラットフォームルールの違反です。私たちの利用規約とコミュニティガイドラインは、Discordで受け入れられる活動やコンテンツに関する普遍的なルールを提供します。私たちのポリシーに対する違反に気づいたとき、私たちは行動を起こします。
私たちのミッションの中核は、すべての人が自分の人生に居場所を見つけ、創造する力を与えることです。Discordで安全な環境を作ることは、これを達成するために不可欠であり、私たちのプラットフォームの悪用を防止する方法の1つです。安全性は、私たちが行うすべてのことの中核であり、ビジネスとしての主要な投資分野です：
私たちは、安全への取り組みに人材と資源を投入しています。安全やポリシーからエンジニアリング、データ、プロダクトチームまで、Discordの全従業員の約15%が安全への取り組みに専念しています。より安全なインターネットを作ることは、私たちの集団的使命の中核をなすものです。
私たちは、プロアクティブな検知に重点を置きながら、安全メカニズムをどのように拡張するかを革新し続けています。世界中の何百万人もの人々が毎日Discordを利用しており、その大多数はポジティブな方法で関わっていますが、私たちは悪い行動や有害なコンテンツに対処するために、複数の面で行動を起こしています。例えば、PhotoDNAイメージハッシュを使用して不適切な画像を特定し、機械学習モデルなどの高度な技術を使用して問題のあるコンテンツを特定して改善し、コミュニティのモデレーターにツールとトレーニングを与えて、コミュニティで当社のポリシーを支持する権限を与えて装備させています。私たちの安全への取り組みと優先順位については、以下をご覧ください。
ユーザーを保護するための私たちの継続的な活動は、より安全なインターネットを作るという私たちの使命を共有する専門家との協力やパートナーシップのもとで行われています。私たちは、多くの組織と提携し、インターネットユーザー全体に影響を与える課題に共同で取り組んでいます。例えば、子供と家族にとってオンラインの世界をより安全なものにしようと努力する国際的な非営利団体であるFamily Online Safety Instituteと提携しています。また、NCMEC（National Center for Missing & Exploited Children）、Tech Coalition、Global Internet Forum to Counter Terrorismとも連携しています。
通信プラットフォームにおける悪質な行為者との戦いはすぐに終わるとは思えず、私たちの安全に対するアプローチは、以下の原則に導かれています：
安全のためのデザイン： 私たちは、設計上もデフォルトでも、製品を安全な空間にします。安全性は、Discordの中核となる製品体験の一部であり、今後もそうあり続けるでしょう。
最も大きな害を優先する： 私たちは、私たちのプラットフォームとユーザーに対して最も高い害をもたらす問題を優先します。これには、ユーザーや社会に対する害（性的搾取、暴力、違法コンテンツの共有など）、プラットフォームの整合性に対する害（スパム、アカウントの乗っ取り、マルウェアなど）が含まれます。
プライバシーのためのデザイン： 私たちは、プラットフォームにおけるプライバシーと安全性のバランスを慎重に考えています。私たちは、ユーザーがプライバシーを含め、自分の好みに合わせてDiscordの体験をカスタマイズできるようにすべきであると考えています。
透明性と知識の共有を受け入れる： 私たちは、ユーザーを教育し、連合に参加し、専門家と関係を築き、透明性レポートなど、安全に関する学びを公開し続けています。
コンテンツモデレーションに対する全体的なアプローチと、ユーザーの安全を守るためのテクノロジーソリューションへの投資です。
コンテンツモデレーションへの取り組み
私たちは現在、ユーザーのプライバシーに配慮しつつ、Discord上のユーザーコンテンツを管理するために、3つの手段を採用しています：
ユーザーコントロール： 当社の製品アーキテクチャは、各ユーザーに、誰とコミュニケーションするか、どのコンテンツを見るか、どのようなコミュニティに参加するか、作成するかなど、Discordでの体験を基本的にコントロールできるようにしています。
プラットフォーム・モデレーション： 当社の普遍的なコミュニティガイドラインは、プラットフォーム上のすべてのコンテンツとすべての対話に適用されます。これらの基本的なルールは、Discordがプロアクティブな作業とリアクティブな作業を組み合わせて、継続的に実施しています。
コミュニティ・モデレーション： サーバーオーナーとボランティアのコミュニティモデレーターは、Discordコミュニティガイドラインを超えるようなコミュニティの行動規範を定義し、実施します。私たちは、コミュニティモデレーターをテクノロジー（AutoModなどのツール）、トレーニング、ピアサポート（Discord Moderator Academy）などでサポートします。
企業がコンテンツモデレーションを効果的に拡張して提供する方法を改善するために、Discord内外で絶え間ないイノベーションが行われています。今後も、ユーザーのためにより良い方法を見つけるために、私たちのアプローチは進化し続けるでしょう。
当社のテクノロジーソリューション
長期的には、機械学習が安全ソリューションに不可欠な要素になると考えています。2021年には、AIを活用したモデレーションシステムのリーダーであるSentropyを買収し、この領域における当社の取り組みを進めています。私たちは、テクノロジーと高度な訓練を受けた従業員の判断や文脈に応じた評価とのバランスを取りながら、ユーザーのプライバシーに対する強い姿勢を引き続き維持していきます。
以下は、当社のテクノロジーへの主要な投資の概要です：
セーフティ・ルール・エンジン：ルール・エンジンにより、登録、サーバーへの参加、その他のメタデータなど、ユーザーの活動を評価することができます。問題行動のパターンを分析することで、情報に基づいた判断を下し、ユーザーへの挑戦や禁止など、均一なアクションを取ることができます。
AutoMod（オートモッド）： AutoModは、コミュニティモデレーターが特定のキーワードを含むメッセージをブロックしたり、危険なリンクを自動的にブロックしたり、機械学習を使用して有害なメッセージを特定したりすることができます。この技術により、コミュニティモデレーターはコミュニティの安全性を保つことができるようになります。
ビジュアルセーフティープラットフォーム： 児童性的虐待資料（CSAM）などの不快な画像のハッシュを識別し、Discordにアップロードされたすべての画像を、既知の不快な画像のデータベースと照合することができるサービスです。
パートナーシップ
オンライン・セーフティの分野では、企業や市民社会団体の垣根を越えた協力の精神に触発されています。私たちは、以下のようなさまざまな企業や団体と関わり、学ぶことができることを誇りに思っています：
全米行方不明・被搾取児童センター（National Center for Missing & Exploited Children
ファミリー・オンライン・セーフティ研究所
テックコアリション
クライシス・テキスト・ライン
デジタル・トラスト＆セーフティ・パートナーシップ
一般社団法人 信頼と安心のプロフェッショナル協会
テロ対策グローバル・インターネット・フォーラム
この協力は、法執行機関との連携にも及びます。適切な場合、Discordはユーザーのプライバシーと権利を尊重しながら、法執行機関からの情報要求に応じます。また、Discordは、重大な身体的傷害または死亡の危険が差し迫っていると誠実に信じる場合、緊急事態において当局に情報を開示することがあります。Discordが法執行機関とどのように連携しているかについては、こちらで詳細をご覧いただけます。
当社の方針と安全に関する資料
当社の「安全」への取り組みについて、より詳しくお知りになりたい方は、以下のリンクをご覧ください。
安全ホームページ
ルールの実施方法
プラットフォームにおける問題の調査方法
最新の透明性レポート
最新のポリシーアップデート
管理者・モデレーターの役割
Discordにおける暴力的過激派への対処方法について
私たちの視点
インターネットをより良い、より安全な、より包括的な環境にすることを追求しているのは、Discordだけではありません。私たちだけでなく、世界に喜び、娯楽、知識、接続性をもたらす他のインターネット・プラットフォームも、重要な岐路に立たされています。個人の安全から国家の安全まで、私たちは社会全体に影響を及ぼす重要な問題に取り組んでいます。アメリカで創業し、世界中にアクティブなユーザーを持つグローバルなテクノロジー企業として、Discordを安全で包括的な場所にすることは、世界に対する深い義務感だと感じています。私たちは、オンライン上の危害を減らし、私たちが作る製品がユーザーと彼らが帰属とつながりを見出すオンラインコミュニティに利益をもたらすように、政府、他のテクノロジー企業、主題専門家と対話を続けることを楽しみにしています。
