O.XYZ的Ahmad Shadid談AI驅動編碼工具的承諾與陷阱：在創新、安全與復雜性之間取得平衡

簡要

像Cursor這樣的AI驅動工具正在改變原型開發，但專家警告其局限性和簡化軟件工程工作流程的潛在風險。

![O.XYZ 的 Ahmad Shadid 談人工智能編碼工具的前景和陷阱：平衡創新與安全性和復雜性](http://img-cdn.gateio.im/social/moments-806d28ce99ff7e56c6262e36400196846574839201

最近，全球支付解決方案公司Klarna的首席執行官Sebastian Siemiatkowski分享了AI工具如Cursor如何徹底改變原型開發。他強調了氣氛編碼的日益增長趨勢，在這種趨勢下，AI通過自然語言提示來生成代碼，從而簡化工作流程並減少對技術團隊的依賴。這種方法正成爲開發者的一項關鍵技能，主要公司越來越尋求在AI驅動的編碼工具方面的熟練程度。

在與Mpost的對話中，O.XYZ的首席執行官Ahmad Shadid分享了他對這一趨勢演變的見解和專業知識。

人工智能驅動編碼的崛起：賦能非技術領導者，降低風險，塑造軟件工程的未來

阿赫邁德·沙迪德指出，非技術領導者現在有機會在數小時內將想法轉化爲可點擊的演示，這要歸功於人工智能驅動的工具。這加速了產品發現，並減少了商業意圖與工程之間的翻譯差距。然而，風險包括虛假的可行性感，因爲原型可能掩蓋了可行性、安全性和技術債務等潛在問題。此外，領導者可能過於關注工具可以生成的內容，忽視了從戰略或技術角度看可行的內容。

他還分享了團隊在使用人工智能生成代碼時面臨的最常見陷阱，並提供了如何減輕這些風險的見解。

“不安全的輸入處理和弱認證模式是主要問題之一。這些安全隱患可以通過在CI中強制執行SAST/DAST、安全代碼檢查、依賴掃描以及對來自AI的特性的威脅建模來緩解。通過經過批準的提供商進行路由以刪除和保護機密，可以減少提示中的數據泄漏，並使用隱私保護的提示網關，”艾哈邁德·沙迪德對Mpost說。

“不僅僅是 AI 生成的代碼。當一個人不是工程師或編碼員時，他們往往缺乏對軟件構建方式和系統架構樣貌的全面理解。AI 的效果僅取決於提示，對吧？所以他們無法正確提示 AI，這可能導致安全威脅和前端 API、公共數據庫等問題，”他繼續說道。

此外，專家還補充說，許多工程師抱怨的一點是，當上下文變得過大或某些事情變得過於復雜時，人工智能開始出現幻覺。它開始在代碼中進行不必要的更改，或者是沒有明確要求的更改。人工智能還會生成數千行代碼。想象一下，在數千行代碼中跟蹤隨機的代碼庫更改是多麼困難。

“最終，定期的時間限制‘無人工智能’評審對於保持基礎知識的新鮮感和抵抗技能退化是至關重要的，”他說。

關於依賴人工智能驅動的編碼是否最終會重塑軟件工程師在各行業中的價值和招聘方式，阿赫邁德·沙迪德（Ahmad Shadid）表示：“原始輸入越少，系統設計、代碼審查、調試、安全和數據/AI編排就越能彌補產品意識。我們還看到從‘從零開始實現X’轉變爲‘批判、加固和擴展AI生成的代碼’，還有架構和事故演練的變化。‘AI雙人編程領導者’、‘代碼看護人’和構建AI生成軟件中的保護措施的平台工程師的崛起，顯示了對人工智能驅動編碼的日益接受。”

“初學者常常跳過基礎知識，直接進入提示工程，卻對他們想要達成的目標毫無頭緒。另一方面，經驗豐富的工程師獲得了槓杆效應，爲架構、可靠性和適當的產品結果創造了更多時間。明確的學習軌跡、‘先讀後寫’的文化以及定期的‘手動模式’練習可以幫助確保高效和倫理地使用人工智能進行編碼，”他指出。

Vibe 編程工具是有益的，但過於簡單，無法替代傳統開發工作流程

其中一個擔憂是，vibe 編碼工具最終可能會取代傳統編碼工作流程。然而，專家指出，vibe 編碼工具過於簡單，無法取代完整的編碼工作流程。

“這將成爲今後編碼工作流程的一部分嗎？當然，產品團隊確實從中受益，可以快速搭建前端並檢查不同的用戶體驗設計，當然，自由開發者和愛好者也能迅速組裝出一些東西，但這無法替代整個工作流程。事實上，目前的開發面臨一些挑戰，尤其是隨着人工智能變得越來越強大，”他對Mpost說。

“我們就是無法跟上，工具無法跟上，我們正面臨工具碎片化危機，開發者現在在工作流程中需要4到5個工具。每次切換時，你都會失去上下文，你就是無法跟上，AI也無法跟上；你無法在一個工具和另一個工具之間跟蹤所有的變化，等等。”阿赫邁德·沙迪德繼續說道。

簡單來說，目前的氛圍編碼工具和平台在取代傳統編碼工作流程之前還有很長的路要走。這些工具仍然不完整。

Ahmad Shadid 討論軟件開發中人工智能的未來：好處、風險以及對安全、可擴展解決方案的需求

艾哈邁德·沙迪德強調，目前的開發工具和環境已經準備好安全地集成AI驅動的編碼：“IDE集成、強大的代碼補全、合理的重構以及對代碼庫的智能助手在生成AI代碼方面都起着重要作用，”他對Mpost說。“然而，企業級存在差距。AI建議的統一可審計性、強有力的政策執行與成本控制，以及無縫的本地/私有模型選項可能在企業層面上造成重大差距，”這位專家補充道。

隨着越來越多的高管採納人工智能工具進行快速原型開發，這可能有助於在公司內部實現創新的民主化。然而，它也帶來了簡化軟件工程復雜性的風險。

艾哈邁德·沙迪德認爲，隨着更多的人參與創意過程，公司可以更快地驗證想法，並改善跨職能協作。這使得更多的想法得以發展和完善成穩定的解決方案，讓創作者通過軟件將他們的概念變爲現實。

“使用人工智能工具進行原型設計低估了可靠性、可操作性和規模的復雜性，如果不加以控制，基於演示的決策可能導致失敗。這些工具使得原型設計變得簡單，但在沒有工程質量門檻的情況下，很難實現交付，”專家強調道。

此外，公司應允許非工程師在隔離環境中操作，這些環境可以安靜且私密地運行應用程序。使用虛擬/合成數據以及零生產憑證可能有助於最小化數據泄露風險。

“清晰的系統識別策略，如一次性倉庫和獨立命名空間，有助於在隔離中利用人工智能程序。經過批準的堆棧、安全的腳手架、內置測試和代碼檢查爲應用程序的可擴展性和彈性提供了安全的平台，”Ahmad Shadid對Mpost說道。