一個多學科的研究生團隊幫助將道德計算內容注入麻省理工學院最大的機器學習課程。

作為計算社會和道德責任倡議的一部分，一個多學科的研究生小組努力為麻省理工學院最大的機器學習課程之一注入與道德計算、數據和模型偏差以及機器學習公平性相關的材料。

參加 MIT 課程 6.036（機器學習簡介）的學生學習強大模型背后的原理，這些模型可幫助醫(yī)生診斷疾病或幫助招聘人員篩選求職者。

現在，由于計算的社會和道德責任（SERC） 框架，這些學生還將停下來思考 這些人工智能工具的含義，這些工具有時會帶來意想不到的后果。

去年冬天，一個SERC 學者團隊與講師 Leslie Kaelbling、松下計算機科學與工程教授以及 6.036 名助教合作，為每周實驗室注入了涵蓋道德計算、數據和模型偏差以及機器學習公平性的材料。該過程由電氣工程和計算機科學系 X 聯盟助理教授 Jacob Andreas 于 2019 年秋季啟動。SERC 學者在多學科團隊中合作，幫助博士后和教師開發(fā)新的課程材料。

由于 6.036 課程如此龐大，因此 2021 年春季學期入學的 500 多名學生在努力學習新的計算技術的同時，努力應對這些道德方面的問題。對于一些人來說，這可能是他們第一次在學術環(huán)境中批判性地思考機器學習的潛在負面影響。

SERC 學者評估了每個實驗室，以開發(fā)具體的示例和與道德相關的問題，以適應該周的材料。每個人都帶來了不同的工具集。Serena Booth 是計算機科學與人工智能實驗室 （CSAIL） 交互式機器人組的研究生。Marion Boulicault 是語言學和哲學系的研究生，現在是 SERC 所在的麻省理工學院蘇世民計算機學院的博士后。Rodrigo Ochigame 是歷史、人類學、科學、技術和社會 （HASTS） 項目的研究生，現在是荷蘭萊頓大學的助理教授。他們與 MEng ‘21 助教 Dheekshita Kumar 密切合作，后者在開發(fā)課程材料方面發(fā)揮了重要作用。

他們在每個實驗室進行頭腦風暴和迭代，同時與助教密切合作，以確保內容適合并推進課程的核心學習目標。同時，他們幫助助教確定呈現材料的最佳方式，并就種族、性別和監(jiān)視等具有社會影響的話題引導對話。

“在像 6.036 這樣的課程中，我們正在與 500 名不在那里學習道德的人打交道。他們認為他們在那里學習機器學習的基本要素，比如損失函數、激活函數等等。我們面臨的挑戰(zhàn)是試圖讓這些學生以非常積極和參與的方式真正參與這些討論。我們通過將社會問題與技術內容緊密結合來做到這一點，”布斯說。

例如，在一個關于如何為機器學習模型表示輸入特征的實驗室中，他們引入了不同的公平定義，要求學生考慮每個定義的優(yōu)缺點，然后讓他們思考應該輸入的特征一個使它公平的模型。

四個實驗室現已在MIT OpenCourseWare上發(fā)布。一個由 SERC 學者組成的新團隊正在根據教師和學生的反饋修改其他八名，重點是學習目標、填補空白和突出重要概念。

有意的方法

SERC 副院長兼航空航天學教授 Julie Shah 說，學生在 6.036 上的努力表明 SERC 旨在以適合他們的方式與教師合作。由于這個大型課程的獨特性和緊迫的時間限制，他們調整了 SERC 流程。

SERC 是兩年多前通過麻省理工學院蘇世民計算學院成立的，旨在將來自不同學科的教師聚集到一個協作環(huán)境中，共同創(chuàng)建和推出專注于社會和負責任計算的新課程材料。

每個學期，SERC 團隊都會邀請十多名教職員工加入一個致力于開發(fā)新課程材料的行動小組（有幾個SERC 行動小組，每個小組都有不同的使命）。SERC 副院長、Germeshausen 科學史教授和物理學教授 David Kaiser 說，他們邀請的對象是有目的的，并尋求將可能會在較小的小組中形成富有成效的合作伙伴關系的教職員工包括在內。

這些由兩到三名教職員工組成的小組在學期中磨練了他們的共同興趣，以開發(fā)新的倫理相關材料。但不是一門學科為另一門學科服務，而是一條雙向的道路；Shah 解釋說，每位教員都會將新材料帶回他們的課程中。麻省理工學院所有五所學校的行動小組都吸引了教師。

“其中一部分涉及走出你正常的學科界限并建立一種語言，然后信任并與你正常圈子之外的新人合作。這就是為什么我認為我們的故意方法如此成功。試用材料并將新事物帶回您的課程是很好的，但建立關系是核心。這使得這對每個人都很有價值，”她說。

產生影響

在過去的兩年里，Shah 和 Kaiser 對圍繞這些努力的能量和熱情印象深刻。

自該計劃啟動以來，他們與大約 80 名教職員工合作，僅去年一年就有 2，100 多名學生參加了包含新 SERC 內容的課程。這些學生不一定都是工程師——大約 500 人通過人文、藝術和社會科學學院、斯隆管理學院和建筑與規(guī)劃學院提供的課程接觸了 SERC 的內容。

沙阿說，SERC 的核心原則是計算中的道德和社會責任應該融入麻省理工學院的所有教學領域，因此它與課程的技術部分一樣重要。技術，尤其是人工智能，現在幾乎涉及每個行業(yè)，因此所有學科的學生都應該接受培訓，幫助他們理解這些工具，并深入思考它們的力量和陷阱。

“弄清楚事情出錯的原因或發(fā)生的事情不是別人的工作。這是我們的全部責任，我們都有能力做到這一點。讓我們習慣這一點。讓我們建立起能夠停下來問那些棘手問題的能力，即使我們無法在問題集的最后找到一個答案，”Kaiser 說。

對于三位 SERC 學者來說，在沒有答案可參考的情況下，仔細提出道德問題是一項獨特的挑戰(zhàn)。但深入思考這些棘手的問題也幫助布斯、布利科和奧奇加姆學習、成長，并通過其他學科的視角看待世界。

他們希望 6.036 的本科生和助教能夠牢記這些重要的課程，并融入他們未來的職業(yè)生涯。

“這個過程讓我受到啟發(fā)和鼓舞，我學到了很多東西，不僅僅是技術材料，還有跨學科合作可以實現的目標。只是這種努力的規(guī)模令人興奮。如果我們有這 500 名學生組成的隊列，他們能夠更好地了解如何思考這些問題，我覺得我們真的可以有所作為，”Boulicault 說。