ブラウン大学の Suresh Venkatasubramanian 教授がホワイト ハウスでコンピューター サイエンスの社会的影響に取り組む

コンピューター サイエンスとデータ サイエンスの教授であり、データ サイエンス イニシアチブの副所長である Suresh Venkatasubramanian 氏は、最近、ホワイトハウス科学技術政策局の顧問としての 15 か月の任命を終了し、その間、データの倫理的な使用を確保するためのポリシーの策定を支援しました。人工知能。

ホワイトハウスでベンカタスブラマニアンは、アルゴリズムの公平性、機械学習におけるバイアスの修正、および自動化された意思決定に焦点を当てた研究を行い、連邦政府の活動を調整し、テクノロジーに関する一貫した政策ガイドラインを作成しました。

Venkatasubramanian 氏によると、彼のチームは、政府、産業界、市民社会、コミュニティ グループの代表者によるパネルディスカッションなど、さまざまな利害関係者に広範なアウトリーチを実施しました。 チームはまた、検討中の政府の政策について一般から意見を求めました。

Venkatasubramanian は、彼の任命中にホワイトハウスに助言し、10 月 25 日に発表された AI 権利章典の国内初の青写真について助言しました。 4. この文書は、「具体的な期待と技術的専門知識」を通じて自動化システムの将来の開発計画を概説していると Venkatasubramanian 氏は述べています。

AI 権利章典の目標は、「多くのメリットを見てきましたが、自動化、データ駆動型テクノロジ、AI、機械学習などのさまざまな形態に伴う驚異と可能性を認識し始めることです。政府の最高レベルでは、これらのテクノロジーがどのように人々に危害を加えてきたかについて、実際には説明がありませんでした」と彼は言いました。

この文書では、自動化されたシステムの誤用から人々を保護するための 5 つの基本原則 (アルゴリズムによる差別保護やデータ プライバシーなど) について概説しています。

青写真を設計する際、Venkatasubramanian 氏と彼の同僚が直面した課題の 1 つは、AI の進歩に伴いドキュメントを更新する必要がある頻度を考慮することでした。

チームの意図的な選択の 1 つは、青写真で特定の技術用語を定義しないことでした。 「私たちはテクノロジーが変化することを知っています」と Venkatasubramanian 氏は言います。 「線形回帰と呼ぶ人もいれば、機械学習と呼ぶ人もいれば、AI と呼ぶ人もいるかもしれません。」

代わりに、Venkatasubramanian 氏は、技術の影響に重点が置かれていると述べました。

全体として、Venkatasubramanian は青写真のトーンを「楽観的」と見なしています。 テクノロジーが過去に引き起こした被害について概説していますが、「より良い未来を夢見る機会を与えてくれるので、強力です」と彼は言いました。

一方、ホワイトハウスでのベンカタスブラマニアンの地位は正式に8月に終了しました. 15歳で、彼はキャンパスで倫理とテクノロジーに関する研究を続けています.

春学期に、Venkatasubramanian はアルゴリズムの公平性に関する新しいコンピューター サイエンス コースを教える予定です。このコースでは、コンピューター サイエンスにおけるアルゴリズムの意思決定の影響に関する社会的懸念に対処することに焦点を当てます。

さらに、DSI 内で、Venkatasubramanian は、技術責任、再想像、再設計のための新しいセンターの先頭に立つことを計画しています。 「センターの目標は、新しい研究、カリキュラムの新しい教育方法を推進することです…そして、コミュニティや市民社会のパートナーとのアウトリーチ活動も行うことです」と彼は言いました.

コンピューター サイエンス部門の博士号候補である Leah Rosenbloom GS は、Venkatasubramanian と協力してセンターを設立しています。 彼女は、技術研究の焦点をコミュニティや人々に移す可能性に最も興奮しています。

「現在、多くのテクノロジーが、お金を稼ぎ、州政府が人口を管理するのを助ける目的で特別に設計されています」とローゼンブルームは言いました。 「センターの目標は、それに対する抵抗であり、テクノロジーとの関わり方の再構築でもあると考えています。」

コンピューター サイエンス部門の博士号候補である Lizzie Kumar GS は、Venkatasubramanian がホワイト ハウスでの経験から得た専門知識を高く評価しています。 「これらの接続は学界ではまれです。 …彼の経験だけで、私たちの研究をインパクトのあるものにする方法の青写真が得られます」と Kumar 氏は述べています。

「彼は本当に無限のエネルギーと好奇心を持っています。

現在、ラマチャンドランは、彼女が所長でもある計算分子生物学センターをデータ サイエンス イニシアチブと統合する計画を立てています。 Venkatasubramanian の Center for Technology Responsibility を設立する計画と併せて、この組み合わせ提案は、データ サイエンス イニシアチブを研究所に拡大し、Carney Institute for Brain Science や Cogut Institute for the Humanities などのキャンパス内の他の研究所と同じレベルにします。 .

The Herald を毎日受信トレイに配信します。

学際的なセンターとして、このイニシアチブの主な目標の 1 つは、自然に接続されない可能性のある部門の開発を促進することです、と Ramachandran 氏は述べています。

データが社会でますます多くの決定を下すようになっているため、このイニシアチブは、データ サイエンスの問題を解決するためにさまざまな分野をまとめるのに役立つ可能性がある、と Ramachandran 氏は述べています。 「私たちは一緒に、キャンパスのデータ サイエンスで素晴らしいことが起こっているのを見ることができると思います」と彼女は付け加えました。

Venkatasubramanian にとって、「コンピュータ サイエンティストが異なる方法で設計し、想像する必要がある」最も重要な能力です。 以前は、これは「物事をより速く実行する方法や…より効率的にする方法など、限られた一連の関心事」に使用されていました。 現在、彼はコンピューター科学者に社会的利益のために設計するよう依頼していると述べた。

しかし、Venkatasubramanian 氏は、広く考えるというこの作業は野心的すぎて、少数の頭脳だけで取り組むことはできないと考えています。 「これは、1人や10人、15人では起こりません」と彼は言いました。 それは「運動として起こるだろうし、私は人々に参加してもらいたい」.

Leave a Comment

Your email address will not be published. Required fields are marked *