「我是工程師,營運的事別問我。」,「我負責營運,聽不懂技術啦。」過去,企業內工程與營運部門彼此難以交流經驗,往往壁壘分明,但隨著進入 AI 應用和機器學習的時代,在數據領域,機器得定期重新訓練數據模型,以因應產品上線後的種種潛在挑戰。
然而,對資料量龐大、變化亦快速的金融業而言,當團隊人力和時間都很珍貴時,該如何好好管理機器學習流程?打造「 MLOps 文化」,就是玉山銀行的解法。當「數據工程」與「營運」手牽手,玉山科技團隊創造出高效率工作與溝通。
MLOps 問世:來,數據工程和營運手牽手
約在 2018 年,微軟首度提出 MLOps 概念:
即 Machine Learning (機器學習)+ DEV(開發)+OPS(營運)三個詞彙的集合。
它代表的意義是:機器學習不再是純粹的數據領域,必須要工程與營運相互攜手,才能走得更快、更遠。
無獨有偶,國外企業也陸續打造 MLOps 文化以提高生產力。例如:橫跨社群、電商和娛樂三大領域的日本知名網路企業 DeNA,不只透過引入 MLOps 降低整體工時,同時也打破機器學習的進入障礙,讓一般業務團隊也能看懂,並操作機器學習。
當這個發跡於軟體科技領域的概念走入玉山銀行,也讓銀行變得不只是銀行,反倒更像一間創新的軟體科技公司。
如果說未來人才是橫跨兩、三大知識領域的「π 型人才」,那未來能在數據應用領域勝出的金融企業,也將是跨界的「π 型組織」。例如:專精建立基礎建設、平台的工程師,也懂機器學習;負責打造產品的工程師,也涉足營運、法務、風管等相關知識;而第一線營運單位,也能與工程師討論技術應用。
為了創造「工程與營運手牽手」的軟體開發文化,玉山屏棄傳統的「開需求、訂規格、填表單」的瀑布式線性開發模式,約從兩年前起,在內部成立虛擬的跨單位組織「Cross Function Team」。
該組織就像工程師們進行流程管理、任務指派時常用的 Scrum 模式,讓業務、產品企劃、風控法遵、建模、工程等各大單位代表成員都同時參與,並以顧客體驗為核心,共同討論出解決痛點與斷點的方法。而這個虛擬跨單位組織,至今也已成為玉山各大業務單位在資料科學領域互動、交流的重要平台。
打破科層體制,先預想產品上線後的挑戰
為何塑造軟體開發文化,需要特地在內部成立虛擬跨單位組織呢?因為 MLOps 文化除了講求工程與營運合作,更強調即時、彈性以及長期維運的思維。
2015 年台灣開始喊出 FinTech,當時玉山銀行就發現,多數人仍著重於 UI、UX 等前端顧客產品該如何呈現,卻忽略了如果要走得長遠,後端的長期維運、數據模型迭代訓練,更重要的人才持續培訓也不可少。因為在瞬息萬變的數據應用領域,產品上線後並不代表結束,而是挑戰的開始。
於是,玉山率先打破傳統金融組織常見的科層體制,用涵蓋「數據驅動」(Data-driven)以及「問題解決驅動」(Solution-driven)思維的 Cross Function Team 來整合各大單位。只要拋出一個議題,大家就通通「動起來」。
這樣的運作模式,與過往有什麼差別?先從「產品開發」談起。以前是業者自行猜想使用者的需求、情境,再推出新服務,但玉山透過虛擬跨單位組織來共同觀察使用者數據表現及使用者深度訪談,從中挖掘潛在需求,並設計新服務。例如:「手機滑世代」的時間感短暫,多等幾秒鐘都是煎熬,因此決定讓內部徵審流程自動化,今年初玉山推出營業時間內最快 58 秒撥款的「e 速貸」就是很好的例子。
再來則是「產品上線」。玉山近期將 AI 人工智慧導入信用卡盜刷偵測,透過比對持卡人資料、刷卡時間與地點,能即時判斷該筆交易是否盜刷。這樣的服務並非上線後就高枕無憂,因為數位交易量不斷成長,機器學習的數據也必須與時俱進,因此團隊打從產品上線第一天起,就預想未來各式可能挑戰,除了持續專注維運,也透過自動化訓練數據模型,好讓 AI 偵測功力可以有機會跑在盜刷之前。
即時、高彈性以及長期維運,當 MLOps 走入玉山銀行,它早已跳脫傳統銀行框架,成為一間以軟體思維及以科技力趨動的金融服務供應企業。
團隊跨界,讓這群人走得又快又遠
MLOps 除了讓玉山能提供顧客更好的服務,也提供員工更好的團隊合作環境,因為它不只是技術,更是一種文化。如果整體團隊都能打破既有職務內容框架,從產品的營運來「跨界」思考機器學習應用,這一大群人就能走得又快又遠。例如:以前推出一套新系統前,得先經過層層審核才能上線,但 MLOps 文化大幅降低傳統科層體制的繁瑣流程,新系統、制度及架構除了兼顧傳統品質把關流程,還能自動化測試、驗證及效率之間取得平衡,並且能在新版本與舊版本之間直接「無痛轉移」,讓所有員工皆能快速又輕鬆地面對瞬息萬變的客戶需求。
再來,以數據驅動推動工作流程,讓所有數據模型或新上線服務都能即時、彈性回應使用者需求。玉山甚至曾在同一時間內上線五種新版本,先觀察各個版本成效之後再進行調整。
能有這種「隨時實驗、快速修正」的開放工作模式,正是來自內部長期建立的 MLOps 文化。雖然它是誕生於軟體科技領域的概念,但融入玉山銀行後,不只帶來軟體開發流程的高效益,更為所有員工帶來跨界合作、彈性交流的工作空間。
現在,玉山的數據工程與營運能朝共同目標,開放地與團隊同伴交流彼此專業領域知識,跨界創造出工作、溝通高效率。