Trong cuộc đua không ngừng nghỉ của trí tuệ nhân tạo (AI), các nhà phát triển luôn tìm cách tối ưu hóa để đưa các mô hình ngôn ngữ lớn (LLM) hoạt động trên những phần cứng yếu nhất và tiết kiệm chi phí nhất. Mục tiêu là giảm thiểu năng lượng tiêu thụ mà vẫn đảm bảo hiệu suất. Nhưng liệu có thể chạy một mô hình AI trên một cỗ máy ra đời từ năm 1982? Đó chính xác là thử thách mà Maciej Witkowiak đang nỗ lực chinh phục với dự án Llama2.c64. Dự án này hướng đến việc chạy một AI đơn giản trên Commodore 64, một chiếc máy tính ra đời rất lâu trước khi khái niệm LLM trở nên phổ biến. Dù không thể sánh kịp GPT-4o, đây vẫn là một thành tựu đáng kinh ngạc.
Llama2.c64: Khi AI hiện đại gặp gỡ phần cứng lịch sử
Như đã được Hackaday đưa tin lần đầu, Maciej Witkowiak đã giới thiệu Llama2.c64 ra toàn thế giới. Đúng như bạn có thể tưởng tượng, không thể mong đợi hiệu suất cao từ phần cứng này, nhưng việc có thể chạy bất kỳ thứ gì trên đó đã là điều phi thường. Witkowiak mô tả dự án của mình như sau:
Được port sang C64 bởi Maciej ‘YTM/Elysium’ Witkowiak sử dụng oscar64.
Llama2.c64 là một phiên bản port của llama2.c dành cho Commodore C64 được trang bị ít nhất 2MB REU (Bộ nhớ mở rộng RAM).
Nó chạy mô hình TinyStories 260K, mang khả năng của Llama2 đến với môi trường phần cứng độc đáo của C64.
Đây không phải là một mô hình trò chuyện.
Thay vào đó, hãy tưởng tượng bạn đang gợi ý cho một đứa trẻ 3 tuổi bắt đầu một câu chuyện — chúng sẽ tiếp tục câu chuyện đó dựa trên vốn từ vựng và khả năng của mình.
Bạn có thể thấy một ví dụ về Llama2.c64 tạo ra một câu chuyện trong hình ảnh dưới đây. Quả thực, những câu chuyện này nghe có vẻ như một đứa trẻ đang bập bẹ kể, nhưng xét đến lượng dữ liệu đầu vào tối thiểu và khả năng tiếp tục câu chuyện của AI, đây thực sự là một điều đáng kinh ngạc đối với một chiếc máy tính 42 năm tuổi.
Giao diện Llama2.c64 hoạt động trên Commodore 64, hiển thị câu chuyện được tạo bởi AI.
Về những ưu điểm của dự án này, Witkowiak nhấn mạnh rằng AI hoàn toàn nằm dưới sự kiểm soát của người dùng, hoạt động hiệu quả trên phần cứng yếu, và khẳng định: “Việc chờ đợi token tiếp theo trên C64 cũng thú vị không kém việc chờ đợi từ DeepSeek chạy trên laptop của bạn.” Trong khi đó, về nhược điểm, ông cho rằng “Không có gì đáng kể, điều này thật tuyệt vời” (mặc dù ông thừa nhận nó có thể hơi chậm).
Kết luận
Dự án Llama2.c64 của Maciej Witkowiak đã chứng minh một cách ngoạn mục rằng khả năng tối ưu hóa trí tuệ nhân tạo là vô hạn, thậm chí có thể “hồi sinh” những cỗ máy huyền thoại như Commodore 64 để thực hiện các tác vụ AI cơ bản. Đây là một minh chứng rõ ràng cho tiềm năng phát triển của AI trên nhiều loại phần cứng, mở ra những hướng đi mới trong việc đưa công nghệ này đến gần hơn với mọi người. Nếu bạn quan tâm đến việc chạy AI trên các thiết bị mạnh hơn một chút (nhưng vẫn đủ ấn tượng), hãy tìm hiểu thêm về các bo mạch đơn SBC lý tưởng cho việc triển khai AI tại nhà.
