波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

當前的自動化功設備都加上許多感應器,可以用來偵測環境、與環境互動,並且具有自動修正錯誤的功能,可以作為人類操作的輔助。但是,這種輔助長期下來有可能會變成一種依賴,人類如果長期不去做一些事情,在某些方面會因為疏於練習發生「退化」。

2018年10月29日,一架載有189名乘客和機組人員的印尼獅子航空波音737 MAX 8客機,在起飛13分鐘後失聯,隨後被確認在西爪哇附近海域墜毀,機上人員全部遇難。截止到目前,事故調查工作仍在進行。

133天之後,2019年3月10日,衣索比亞航空一架波音737Max 8航班從阿迪斯阿貝巴起飛,6分鐘後墜毀。機上載有149名乘客和8名機組人員,全部不幸遇難。

據報導,此次失事的是一架全新的波音飛機,四個月前才交付給該航空公司。初期調查結果表明,飛機的感應器可能存在問題,飛行控制電腦出現「資料錯誤」。 

而當機師意識到這一資料錯誤後,飛機沒有將控制權交回人類,「人機」周旋許久,最終釀成了這一事故。

一起來看看事件經過。

感應器錯誤資料釀成悲劇

一切要從波音公司最新推出的一套自動防失速系統相關,該系統改變了波音737之前的設計,強調「資料蒐集」和「自動化」,簡單來說就是,波音公司在飛機探測迎角安裝了一系列感應器。

攻角感應器(AOA) 可以在飛行時計算翼在空中切割時產生的升力量。因為如果迎角太陡,升力會開始減小,最終產生空氣動力學失速,飛機無法繼續高空飛行。

波音公司為了應付這一情況設計了一套自動化「應對措施」,一旦攻角感應器收到「太陡」的迎角資料,安全系統會自動給出「下壓力」,降低機頭,同時,作為警告,共軛控制器會劇烈震動發出聲響。

但如果迎角探測器出了故障,MCAS就會在飛機正常飛行時候強行把飛機機頭往下壓,最後形成空難。

這是調查給出的印尼獅航墜海的原因。

很多人可能會困惑,那駕駛在做什麼?飛機發生一系列不尋常訊號後,駕駛為何沒有迅速採取補救措施呢?

據海外媒體WIRED報導,即便駕駛有補救,也無濟於事。

Flightradar24資料顯示,獅航失事飛機起飛後曾經有過突然下降的跡象,隨後又有拉升,之後消失在追蹤畫面中。也就是說,駕駛在事故後曾有過手動調節,但並沒有解除自動控制系統的操控,機組與控制系統周旋許久後,事故最終仍然沒有避免。

並且,不管是航空公司的管理層還是機師都不知道飛機上居然還裝了這樣一套系統。因此,機師基本沒有為應對可能出現的風險做好準備。沒有經過嚴格訓練的機師,在最關鍵的幾分鐘裡處理不當,最終很容易造成飛機墜毀。

波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

但獅航事故後,波音仍然堅持737-MAX 8安全,僅向機師發布安全提醒,未有安排全線客機停飛維修。波音原定1月為有關自動駕駛系統軟體進行,但卻宣布因技術問題等而推遲至4月。

波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

儘管最終調查結果還沒有出現,但是基於目前的資料,本次失事飛機很有可能發生了和獅航一樣或者類似的問題,因為臨山或者靠海復雜多變的氣候帶來對機載系統的嚴峻考驗。

而此次出事的客機機型,在系統上很可能仍然存在相同問題。

 

從飛機到機師,自動化和人工操控如何平衡?

波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

一年前,波音公司還是傳統企業數位化轉型的優秀代表,其轉型進展得到業界一致認可。但短短半年時間,同是737 MAX 8客機卻遭遇兩次空難,並且,第一次的失事原因已確定為軟體設計缺陷。

737 MAX是波音歷史上銷售最快的機型,已經累計獲得來自全世界92家客戶的4300多架訂單。737 MAX是在737的基礎上升級了發動機和分離翼尖以實現更好的空氣動力學性能。

波音於2017年5月開始交付737 MAX,它的大客戶包括西南航空,美國航空,加拿大航空,印尼獅航和幾家中國航空公司。印尼獅航事故機型是787 MAX8,波音公司沒有表明其他787 MAX機型是否可能存在類似的安全問題。

之前,波音公司發出的公告並未要求檢查或更換感應器或飛行控制電腦。更確切地說,波音公司現在正在做的是告訴機師如果碰到這樣的情況應該如何操作。正如它的公告所說它在「指導航空公司如何培訓機組人員在現有的條件下處理攻角感應器(AOA)資料錯誤的情況。」

波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

波音的回應內容基本上可以總結為:「回去重新學習!時刻告訴自己該做什麼!」

但是這就意味著機師要無視儀器顯示的資料和飛機警報。Embry-Riddle航空大學航空科學教授Westbrooks告訴媒體:「最終的答案是設定一個確定的俯仰角和發動機功率。」

這就需要機師自己花費大量時間去辨別哪些資料是真實的,哪些是錯誤的。

墜機事故調查正在進行中,除了感應器故障外,還可能存在其他問題。但事故還反應出過度依賴自動化系統的問題。

教授Westbrooks稱:「我們多年來一直在談論機師手動飛行技術的退化問題。」 由於常年依賴自動化飛行系統,飛行機組人員在處理危急情況方面的培訓不夠,更不用說緊急情況。

資料和感應器能給人類更安全的世界嗎?

科幻片和各種自動駕駛願景都在為我們描繪一個更安全的世界:再也不會有注意力不集中、不遵守交通規則的人類駕駛,世界將再無「車禍」、「空難」。

但是,事實似乎並非如此。

另一個例子發生在2009年,法航447航班從里約熱內盧飛往巴黎的過程中飛機空速感應器結冰,導致自動駕駛儀斷開連接,機組人員試圖手動飛行,但最終失敗了,飛機撞向大西洋,造成228人死亡。

結合全球首例無人車致行人死亡事件,人類如果對AI等自動化設備過於信賴,在汽車等具有「智慧化」的設備運行的過程中會降低警惕性,而事故往往會發生在降低警惕性的一瞬間。

波音737事故的反思,該讓加了那麼多感應器的機器「接管」生命控制權嗎?

雖然現代汽車的自動駕駛系統仍然處在很初級的階段,但在航空領域,自動駕駛系統早已大行其道,飛機的自動駕駛系統,會根據預先設定好的航路,全程駕駛飛機,甚至完成降落,機師反而成為了輔助存在。

當前的自動化功設備都具有自動修正錯誤,這原本是人類操作的不完美的補充。但是,這種補充也許會演變成一種掩蓋。人類如果長期不去做一些事情,在某些方面會因為疏於練習發生「退化」。

或許自動化設備失靈很少發生,但是一旦發生卻比一些自然災害更加來的致命。正如事後一些的猜測:機師技能熟練度無法判定哪些資料是真實的,哪些是錯誤的;又或許機師在處理危急情況方面的培訓不夠等等。這說明一切人造設備出現問題,原因總是在人的身上。

我們一直在討論的是如何促進人工智慧發展,甚至做到無人值守,但是,現在我們有必要嚴肅的討論一下他的負面影響了。

我們接下來該以怎樣的態度面對AI以及自動化,以及如何把握好人機結合的這個度。這一切都是智能世界到來前,我們需要面對的難題。

使用 Facebook 留言

Brian
1.  Brian (發表於 2019年3月15日 17:55)
其實絕大多數的空難,都是人為的好嗎?
很多時候人類接管後反而造成災難,
這次事故報告還未出來,下定論還太早,
人類機師一定有訓練過關閉系統,也許是剛起飛,反應不過來,
反正改善後,還是相信電腦好一點,存活機率較高。

發表回應

謹慎發言,尊重彼此。按此展開留言規則