Tôi từng ném hàng trăm triệu qua cửa sổ vì ảo tưởng sức mạnh của AI

Hồi cuối năm 2023, khi cơn sốt AI bùng nổ khắp nơi, tôi và đội ngũ của mình đang vận hành một dự án quản lý khách hàng cho một chuỗi bán lẻ với khoảng năm mươi nghìn người dùng hoạt động mỗi ngày. Lúc đó, tôi đinh ninh rằng nếu không đưa AI vào ngay lập tức thì sản phẩm của mình sẽ lỗi thời và bị đối thủ bỏ xa. Thế là tôi quyết định tự xây một mô hình ngôn ngữ lớn, tự thuê máy chủ GPU đắt đỏ về chạy, rồi tự tay fine-tune dựa trên đống dữ liệu cũ kỹ chưa được làm sạch của hệ thống. Tôi tin chắc là sau khi làm xong, hệ thống sẽ tự động tư vấn khách hàng mượt mà như người thật.

Kết quả là một thảm họa thực sự mà tôi không bao giờ quên. Chỉ sau hai ngày deploy thẳng lên hệ thống thật mà không có phương án dự phòng, máy chủ bắt đầu quá tải. Chi phí đám mây tăng vọt từ ba trăm đô lên hơn bốn nghìn đô chỉ trong một tuần vì mô hình ngốn quá nhiều tài nguyên mà không có cơ chế cache hay giới hạn tần suất gọi API. Khách hàng nhắn tin đến thì chatbot trả lời lung tung, có lúc đứng im đến mười lăm giây mới phản hồi. Hệ thống nghẽn đến mức cơ sở dữ liệu chính bị treo, khiến toàn bộ nhân viên bán hàng của đối tác không thể lên đơn trong suốt sáu tiếng đồng hồ. Đêm đó, cả đội năm người chúng tôi thức trắng, vừa run vừa rollback hệ thống về bản cũ, trong khi điện thoại tôi rung liên tục vì những cuộc gọi giận dữ từ khách hàng.

Khoảnh khắc vỡ lẽ đến vào sáng hôm sau, khi tôi ngồi nhìn lại hóa đơn dịch vụ đám mây và đọc lại những dòng code chắp vá của mình. Tôi nhận ra mình đã quá ngây thơ khi nghĩ rằng cứ đắp công nghệ xịn nhất, đắt tiền nhất vào là giải quyết được vấn đề. Sự thật là khách hàng của tôi chỉ cần một hệ thống trả lời nhanh, chính xác những câu hỏi thường gặp, chứ họ không cần một AI biết làm thơ nhưng lại làm sập cả hệ thống lên đơn của họ.

Tôi đã phải thay đổi hoàn toàn cách tiếp cận và ghi xương khắc cốt mấy điều này:

• Đừng bao giờ đâm đầu vào công nghệ mới chỉ vì sợ bị bỏ lại phía sau khi chưa hiểu rõ bài toán thực tế của người dùng.
• Bắt đầu bằng những giải pháp đơn giản nhất, thậm chí là dùng các câu lệnh điều kiện thông thường trước khi nghĩ đến việc dựng một mô hình phức tạp.
• Luôn phải có phương án dự phòng và giới hạn tài nguyên rõ ràng để một lỗi nhỏ ở tính năng mới không thể kéo sập toàn bộ hệ thống cốt lõi.
• Dữ liệu bẩn thì AI cũng chỉ cho ra kết quả bẩn, việc làm sạch dữ liệu và tối ưu hóa hạ tầng quan trọng hơn nhiều so với việc chọn mô hình to lớn.

Tôi học được một nguyên lý rất hay gọi là thiết kế dựa trên sự thực tế. Nghĩa là trước khi viết một dòng code nào, tôi phải tự hỏi xem tính năng này có thực sự cần thiết không, hay chỉ là do tôi muốn khoe mẽ kỹ thuật. Nó thay đổi hoàn toàn cách tôi nhìn nhận một hệ thống. Một hệ thống tốt không phải là hệ thống dùng công nghệ phức tạp nhất, mà là hệ thống chạy ổn định nhất với chi phí tối ưu nhất.

Trước đây, hễ có công nghệ gì mới là tôi muốn áp dụng ngay, viết code vô tội vạ và deploy rất liều lĩnh. Giờ thì khác rồi. Tôi dành nhiều thời gian hơn để thiết kế luồng dữ liệu, viết các kịch bản kiểm thử cẩn thận, và luôn chạy thử nghiệm quy mô nhỏ trước. Tôi cũng học cách nói không với những yêu cầu tính năng hào nhoáng nhưng không thực chất để bảo vệ sự ổn định của hệ thống.

Khi đồng sáng lập Thiện Quang Technologies, tôi mang nguyên vẹn những vết sẹo và bài học đắt giá đó vào quy trình làm việc của tụi tôi. Chúng tôi không bao giờ khuyên khách hàng làm những thứ đao to búa lớn chỉ để lấy tiếng. Mỗi dòng code viết ra, mỗi kiến trúc hệ thống vẽ lên đều được tính toán kỹ lưỡng để tối ưu chi phí và đảm bảo vận hành mượt mà nhất. Khách hàng của Thiện Quang nhờ vậy mà không phải trả những khoản phí vô ích cho những ảo tưởng công nghệ giống như tôi ngày trước.

Nghĩ lại, nếu ngày ấy tôi bớt cứng đầu và thực tế hơn một chút, có lẽ tôi đã không phải mất ăn mất ngủ và làm khổ bao nhiêu người xung quanh.

Nếu bạn cũng đang loay hoay trong việc xây dựng sản phẩm công nghệ, hoặc đang phân vân không biết có nên đầu tư vào những tính năng thời thượng hay không, hãy nhắn cho Thiện Quang Technologies nhé, tụi mình ngồi xuống uống ly nước và cùng tìm ra giải pháp thực tế nhất cho bạn.