基于人工智能技術的算法，通過將輸入數(shù)據(jù)轉換為所需輸出決策的編碼過程，從海量原始數(shù)據(jù)中提煉出解決問題的邏輯與經(jīng)驗，從既有知識中產(chǎn)生新的知識和規(guī)則，形成比人工分析更加快速和優(yōu)質的預測性判斷，進而推動人類在社會、市場、政府等各領域的決策和治理機制嬗變。當前，由算法驅動的自動化決策被廣泛應用于工作、教育、醫(yī)療、信貸、刑事司法等諸多領域，給人們帶來極大的便利和效率提升。然而，由于算法所依賴的人工智能機器學習技術在數(shù)據(jù)集構建、目標制定與特征選取、數(shù)據(jù)標注等環(huán)節(jié)可能混入人類的偏好與偏見，又引起了各界對于算法驅動下決策的準確度與公平性的疑慮。如何避免來自人類社會的不公和歧視通過代碼和算法被固化或放大，如何防止算法世界的偏差反作用于現(xiàn)實世界，以及如何設計算法以保障和實現(xiàn)公平等問題亟待人們去研究和解決。

9月14日，美國布魯金斯學會在其官網(wǎng)發(fā)布了高級研究員阿列克斯·恩格勒（Alex Engler）撰寫的研究報告《在大學招生錄取中采用自動化算法或將引發(fā)美國高等教育危機》（Enrollment algorithms are contributing to the crises of higher education），就大學招生這一與公眾利益密切相關的領域采用人工智能算法所引發(fā)諸多問題進行了分析，并提出了控制算法融入招生管理相關風險的行動要點。

阿列克斯·恩格勒（Alex Engler）指出，許多美國大學正在使用人工智能算法及系統(tǒng)來進行招生錄取和獎學金分配的自動化決策，希望通過先進的技術手段招攬更多合適生源，并更精準地預測學生的學費支付意愿和能力，以制定更科學的獎學金發(fā)放方案。這種做法對大學提高學費收益率和改善財務狀況能產(chǎn)生積極影響。然而，也有證據(jù)顯示，目前被廣泛使用的幾種招生管理算法都有可能會損害學生的利益，降低一部分學生繼續(xù)學業(yè)和順利畢業(yè)的可能性，甚至將加劇美國高等教育業(yè)已存在的畢業(yè)率偏低、學生債務偏高和歧視少數(shù)族裔等潛在危機。

大學通常期望在算法供應商的幫助下能實現(xiàn)吸引更多學生入學，提高學費收入，以及合理控制獎學金支出規(guī)模等多重目的。除了極少數(shù)著名大學擁有捐贈和其他收入，大多數(shù)美國大學都需要依靠學費收入維持運營。因此，各所大學都在竭力吸引和錄取足夠的學生。同時，這也意味著大學既要發(fā)放適當數(shù)額的獎學金來吸引申請人，又要控制發(fā)放規(guī)模以避免影響學校開支。引入人工智能算法可以對每個申請人的綜合情況進行清晰打分，并根據(jù)統(tǒng)一標準測算出與之相匹配的獎學金方案，或者說，能最大限度增加其入學可能性的獎學金額度。

大學招生管理中對算法的使用通常包含三個過程：一、采集申請人的有關信息數(shù)據(jù)并輸入模型，以預測其入學可能性；二、分析評估其經(jīng)濟能力，以制定相應的獎學金發(fā)放方案；三、對算法給出的預測結果和建議進行優(yōu)化。在第一個過程中，校方會把申請人績點（GPA）、標準化考試分數(shù)、已獲得資助情況，以及居住地和人口統(tǒng)計信息等盡可能多的數(shù)據(jù)輸入算法模型進行測算，常會應用到機器學習的邏輯回歸、決策樹及神經(jīng)網(wǎng)絡等技術手段。在過程二中，算法除了會給出獎學金額度建議，還會提供不同獎學金額度對擬錄取對象入學可能性的影響分級，并從總體上預測新學年可能的入學人數(shù)和預算規(guī)模，作為獎學金發(fā)放的決策參考。在過程三中，算法將根據(jù)輸入模型的所有數(shù)據(jù)，結合大學設置的一系列限制性條件和優(yōu)化值，自動產(chǎn)生了至少數(shù)千種策略，并就各種策略進行嘗試和比較，以得出一個最佳方案。對大學來說，這樣做不僅可以更精準地分配有限的財政資源，還能減輕招生辦公室的錄取審核工作量，節(jié)約時間和人力成本，可謂一舉多得。

然而，阿列克斯·恩格勒（Alex Engler）認為，這樣做也將導致不少問題。首先，招生管理使用算法的目標之一是推動申請人以能夠支付的最高學費，或愿意接受的最低獎學金來就讀該大學。供應商圍繞此目標開發(fā)的算法必然會拉高處在自身支付大學學費經(jīng)濟能力邊緣的申請人的數(shù)量。這就在無形中加大了申請人日后遭遇經(jīng)濟困難而不得不中斷學業(yè)的風險。其次，由于大學對財務狀況的看重，供應商開發(fā)的算法將會偏向于盡量精確控制獎學金發(fā)放規(guī)模，這實際上會減少每個申請人能獲得的獎學金數(shù)額。與此同時，校方竭力尋求收入支出最優(yōu)比的做法可能導致算法偏差，令某些特定申請者群體（如少數(shù)種族、婦女、殘疾人等）受到歧視性對待。這就背離了利用獎學金來支持學生完成學業(yè)、取得成功的初衷，并加重了當前存在的大學生高負債、低畢業(yè)率的困境。

在阿列克斯·恩格勒（Alex Engler）看來，通過算法實現(xiàn)財務上最優(yōu)化的招生結果本就不應當被視作大學招生管理的終極目標。大學錄取的衡量標準不該過于偏向申請人的支付意愿和能力。獎學金發(fā)放的價值取向須將擬錄取對象的經(jīng)濟支持需求放在首位，重點考慮如何支持其學業(yè)成功。在此基礎上，他進一步提出了控制算法融入招生管理相關風險的若干行動要點：

記錄算法過程：大學應該全面地記錄算法招生管理中所使用的目標、原則、過程、數(shù)據(jù)和算法。預期的結果應該在算法開發(fā)之前予以明確說明。

考察歷史數(shù)據(jù)：大學必須仔細評估和考慮他們建立算法所依據(jù)的歷史招生數(shù)據(jù)集，以確保符合未來可持續(xù)發(fā)展的需要。

評估學生成功率：大學應該經(jīng)常評估在收益優(yōu)化算法給出的獎學金發(fā)放策略之下學生的學業(yè)延續(xù)率和畢業(yè)率，以及時校正算法。

使用可解釋的模型：大學應該選擇更易解釋的預測模型類型，如邏輯回歸和決策樹，而不是黑箱模型，以降低出現(xiàn)意外和不公平的算法結果的可能性。

進行算法偏見審計：開展算法偏見審計并公開審計結果將有利于提高透明度，并緩解公眾的擔憂。

以人為本的錄取評價：在對申請人進行綜合素質打分排名時，大學不應過度依賴標準化考試成績、GPA等指標。志愿者服務、課外活動成就、工作經(jīng)驗、抗挫折能力等因素都應被納入衡量標準，作為分配獎學金的依據(jù)。

恰當?shù)厥褂眉s束條件：在使用算法時，大學需要通過制定合適的約束條件來保持學生多樣性，以實現(xiàn)獎學金在不同學生群體中的合理分配。

聘請內部數(shù)據(jù)專家：大學不應完全依賴供應商來了解招生管理算法，因此需要雇傭能夠研究供應商所提供方案的內部數(shù)據(jù)專家，以確保算法的使用與學校目標相符。

設法維持學生的經(jīng)濟支持：在使用算法的招生管理中，大學可以尋求更有效地獎學金分配策略，但不能因此降低每個學生的經(jīng)濟支持力度，并采用多種手段幫助學生避免學業(yè)中斷。

此外，阿列克斯·恩格勒（Alex Engler）還提出，美國教育部等公共部門也可以對算法融入大學招生管理實施積極的監(jiān)管和治理，包括委托獨立的第三方評估招生管理算法的使用情況，發(fā)布關于招生管理算法的最佳實踐指南，促成大學之間的財務數(shù)據(jù)交流，提高對公立大學的資金支持等。

無論是教育或其他領域，在人工智能和算法日益代替人類進行各種決策的數(shù)字時代，多重因素決定了算法并不必然公平，但絕不可放任機器產(chǎn)生的偏見和有害性結果通過代碼被固化在社會結構中。構建完善的算法公平性驗證、知情同意、透明度、問責、救濟等治理機制，引導算法盡量朝向公平，已成當務之急。