giới thiệu

Chỉ trong 30 phút, một trợ lý AI tiếng Tây Ban Nha có khả năng tạo ra số lượng câu hỏi thực hành không giới hạn và cung cấp tính năng chấm điểm thông minh theo thời gian thực đã được ra mắt thành công. Phần mềm hỗ trợ của nó không chạy trên nền tảng đám mây trung tâm đắt tiền, mà hoàn toàn dựa trên Gonka, một mạng lưới điện toán AI phi tập trung mới nổi. Dưới đây là toàn bộ hồ sơ thực hành, mã nguồn cốt lõi và bản demo trực tuyến.

Một mô hình mới cho điện toán AI phi tập trung

Gonka là một mạng lưới điện toán AI dựa trên bằng chứng công việc (Proof-of-Work), xây dựng một hệ sinh thái dịch vụ AI phi tập trung mới bằng cách triển khai cân bằng tải cho các tác vụ suy luận tương tự OpenAI giữa các nhà cung cấp phần cứng đã được xác minh. Mạng lưới Gonka sử dụng token GNK để khuyến khích thanh toán và ngăn chặn gian lận hiệu quả thông qua kiểm tra ngẫu nhiên. Đối với các nhà phát triển, chỉ cần họ hiểu cách gọi API OpenAI, họ có thể nhanh chóng tích hợp với mạng lưới Gonka để triển khai ứng dụng.

Nghiên cứu điển hình thực tế: Ứng dụng học tiếng Tây Ban Nha thông minh

Chúng tôi sẽ xây dựng một ứng dụng học tiếng Tây Ban Nha liên tục tạo ra các bài tập thực hành được cá nhân hóa. Hãy tưởng tượng trường hợp sử dụng này:

• Sau khi người dùng nhấp vào "Bắt đầu bài tập mới", AI sẽ tạo ra một câu điền khuyết có chứa một chỗ trống.
• Người dùng nhập câu trả lời và nhấp vào "Kiểm tra", AI sẽ ngay lập tức cung cấp điểm số và phân tích được cá nhân hóa.
• Hệ thống tự động chuyển sang bài tập tiếp theo, hình thành nên một chu trình học tập nhập vai

Bản demo trực tuyến: carrera.gonka.ai

Phân tích kiến trúc kỹ thuật

Ứng dụng này áp dụng kiến trúc phân tách front-end và back-end cổ điển:

• React front-end: được xây dựng trên Vite, hoàn toàn tương thích với các tiêu chuẩn giao diện OpenAI
• Lớp proxy nút: chỉ có 50 dòng mã lõi, chịu trách nhiệm ký và chuyển tiếp yêu cầu

Sự khác biệt duy nhất so với tích hợp OpenAI truyền thống là việc bổ sung bước chữ ký phía máy chủ, đảm bảo tính bảo mật của khóa; mọi hoạt động khác vẫn phù hợp với các lệnh gọi hoàn tất trò chuyện OpenAI tiêu chuẩn.

Hướng dẫn bắt đầu nhanh

Yêu cầu về môi trường: Node.js 20+

Sao chép kho lưu trữ

git clone git@github.com:product-science/carrera.git

cd carrera

Tạo tài khoản Gonka và thiết lập biến môi trường.

# Tạo tài khoản bằng CLI suy luận

# Xem tài liệu Bắt đầu nhanh để biết hướng dẫn về cách tải xuống CLI:

# https://gonka.ai/developer/quickstart/#2-create-an-account

# ACCOUNT_NAME có thể là bất kỳ tên duy nhất cục bộ nào, đóng vai trò là mã định danh có thể đọc được cho cặp khóa tài khoản.

TÀI KHOẢN_TÊN="carrera-quickstart"

NODE_URL=http://node2.gonka.ai:8000

suy ra tạo-client "$ACCOUNT_NAME" \

--địa chỉ nút "$NODE_URL

# Xuất khóa riêng (chỉ sử dụng ở phía máy chủ)

xuất GONKA_PRIVATE_KEY=$(khóa suy luận xuất "$ACCOUNT_NAME" --unarmored-hex --unsafe)

Bắt đầu dịch vụ proxy

cd gonka-proxy

npm install && npm run build

NODE_URL=http://node2.gonka.ai:8000 ALLOWED_ORIGINS=http://localhost:5173 PORT=8080 npm start

Kiểm tra sức khỏe

curl http://localhost:8080/healthz

# Giá trị trả về mong đợi: {"ok":true,"ready":true}

Chạy ứng dụng front-end

cd web

cài đặt npm

VITE_DEFAULT_API_BASE_URL=http://localhost:8080/v1 npm chạy dev

Trong ứng dụng, hãy mở "Cài đặt" → URL cơ sở đã được điền sẵn. Chọn một model (ví dụ: Qwen/Qwen3-235B-A22B-Instruct-2507-FP8; bạn có thể truy cập https://node1.gonka.ai:8443/api/v1/models để xem danh sách các model hiện có) và nhấp vào "Kiểm tra Kết nối".

Triển khai công nghệ cốt lõi

Dịch vụ proxy Gonka đóng vai trò trung tâm trong việc tích hợp với Gonka. Dịch vụ proxy này ký các yêu cầu bằng một khóa và sau đó chuyển tiếp các lệnh gọi tương tự OpenAI qua mạng. Khi các nhà phát triển triển khai proxy này cho ứng dụng của mình, họ có thể bắt đầu xử lý các tác vụ suy luận trên Gonka. Trên thực tế, nên bổ sung các cơ chế xác thực để đảm bảo chỉ những người dùng được ủy quyền mới có thể yêu cầu suy luận.

Biến môi trường được dịch vụ proxy sử dụng:

// gonka-proxy/src/env.ts

xuất khẩu const env = {

CỔNG: số("CỔNG", 8080),

GONKA_PRIVATE_KEY: str("GONKA_PRIVATE_KEY"),

URL_NODE: str("URL_NODE"),

NGUỒN GỐC ĐƯỢC PHÉP: (process.env.NGUỒN GỐC ĐƯỢC PHÉP ?? "*")

.tách ra(",")

.map((s) => s.trim())

.bộ lọc(Boolean),

};

Tạo một máy khách bằng cách sử dụng Gonka OpenAI TypeScript SDK (gonka-openai) (phiên bản Go và Python cũng có sẵn và hỗ trợ cho nhiều ngôn ngữ hơn đang được cập nhật liên tục; vui lòng theo dõi kho lưu trữ mã):

// gonka-proxy/src/gonka.ts

nhập { GonkaOpenAI, giải quyếtEndpoint } từ "gonka-openai";

nhập { env } từ "./env";

xuất khẩu hàm async createGonkaClient() {

const endpoints = await resolveEndpoints({ sourceUrl: env.NODE_URL });

trả về GonkaOpenAI mới({ gonkaPrivateKey: env.GONKA_PRIVATE_KEY, điểm cuối });

}

Hiển thị điểm cuối hoàn thành trò chuyện tương thích với OpenAI (/v1/chat/completions):

// gonka-proxy/src/server.ts

app.get("/healthz", (_req, res) => res.json({ ok: đúng, sẵn sàng }));

app.post("/v1/chat/completions", async (req, res) => {

nếu (!ready || !client) trả về res.status(503).json({ lỗi: { thông báo: "Proxy chưa sẵn sàng" } });

const body = req.body là ChatCompletionRequest;

nếu (!body || !body.model || !Array.isArray(body.messages)) {

return res.status(400).json({ error: { message: "Cả hai tham số 'model' và 'messages' đều phải được cung cấp" } });

}

thử {

const streamRequested = Boolean(body.stream);

const { luồng: _ignored, ...rest } = body;

nếu (!streamRequested) {

const response = await client.chat.completions.create({ ...rest, stream: false });

trả về res.status(200).json(phản hồi);

}

// …

Tệp server.ts cũng bao gồm hỗ trợ pass-through cho các dịch vụ phát trực tuyến (SSE), mà các nhà phát triển có thể kích hoạt trong các máy khách hỗ trợ phát trực tuyến bằng cách đặt `stream: true`. Gonka cũng cung cấp Dockerfile để đảm bảo việc xây dựng có thể tái tạo và triển khai dễ dàng.

# gonka-proxy/Dockerfile

# ---- Giai đoạn xây dựng ----

TỪ nút:20-alpine AS build

WORKDIR /ứng dụng

SAO CHÉP gói *.json tsconfig.json ./

Sao chép src ./src

Chạy npm ci && npm run build

# ---- Giai đoạn hoạt động ----

TỪ nút:20-alpine

WORKDIR /ứng dụng

ENV NODE_ENV=sản xuất

SAO CHÉP --từ=xây dựng /ứng dụng/gói*.json ./

CHẠY npm ci --omit=dev

SAO CHÉP --từ=xây dựng /ứng dụng/phân phối ./phân phối

TIẾT LỘ 8080

CMD ["node", "dist/server.js"]

Phân tích kỹ thuật: Front-end (thiết kế độc lập với nhà cung cấp)

Các ứng dụng React vẫn tương thích với OpenAI mà không cần biết chi tiết triển khai của Gonka. Chúng chỉ cần gọi điểm cuối tương tự OpenAI và hiển thị giao diện vòng lặp thực hành đã đề cập ở trên.

Tất cả các tương tác ở phía sau được xử lý trong web/src/llmClient.ts, thực hiện một lệnh gọi duy nhất đến điểm cuối hoàn tất trò chuyện:

// web/src/llmClient.ts

const url = `${s.baseUrl.replace(/\/+$/, "")}/chat/completions`;

tiêu đề const: Bản ghi <chuỗi, chuỗi> = { "Kiểu nội dung": "ứng dụng/json" };

if (s.apiKey) headers.Authorization = `Bearer ${s.apiKey}`; // Tham số tùy chọn

const res = await fetch(url, {

phương pháp: "POST",

tiêu đề,

thân: JSON.stringify({ mô hình: s.model, tin nhắn, nhiệt độ }),

tín hiệu,

});

nếu (!res.ok) {

const body = await res.text().catch(() => "");

ném Lỗi mới (`Lỗi LLM ${res.status}: ${body}`);

}

dữ liệu const = await res.json();

const text = data?.choices?.[0]?.message?.content ?? "";

trả về { văn bản, dữ liệu thô: };

Để chỉ định nhà cung cấp dịch vụ API, chỉ cần cấu hình URL cơ sở trong cửa sổ bật lên "Cài đặt" ở trên cùng. Bạn cũng có thể thiết lập mô hình tại đây; mặc định là Qwen/Qwen3-235B-A22B-Instruct-2507-FP8. Để kiểm tra cục bộ trong môi trường ngoại tuyến, hãy đặt URL cơ sở thành mock:; đối với các cuộc gọi thực tế, hãy đặt thành địa chỉ proxy của nhà phát triển (đã được điền sẵn trong phần khởi động nhanh):

// web/src/settings.ts

hàm xuất getDefaultSettings(): Cài đặt {

const prodBase = (import.meta như bất kỳ).env?.VITE_DEFAULT_API_BASE_URL || "";

const baseUrlDefault = prodBase || "giả lập:";

trả về { baseUrl: baseUrlDefault, apiKey: "", model: "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8" };

}

Lời nhắc ứng dụng và cơ chế đánh giá

Chúng tôi sử dụng hai mẫu nhắc nhở:

Lời nhắc của trình tạo: "Bạn là giáo viên tiếng Tây Ban Nha... Chỉ xuất ra theo định dạng JSON nghiêm ngặt... Tạo một câu kiểm tra điền khuyết chỉ chứa đúng một chỗ trống (____), bao gồm câu trả lời, hướng dẫn và mức độ khó."

Hướng dẫn chấm điểm: "Bạn là giáo viên tiếng Tây Ban Nha đang chấm bài tập... Đầu ra theo định dạng JSON nghiêm ngặt, bao gồm trạng thái đạt/không đạt và hướng dẫn phân tích cú pháp."

Đoạn mã ví dụ cho quá trình xây dựng:

// web/src/App.tsx

const sys: ChatMsg = {

vai trò: "hệ thống",

Nội dung: Bạn là một giáo viên tiếng Tây Ban Nha thiết kế các bài tập tương tác.

Chỉ xuất ra định dạng JSON nghiêm ngặt (không có văn bản mô tả, không có mã đánh dấu). Đối tượng phải chứa các khóa sau:

{

"loại": "đóng",

"text": "<Chứa một câu tiếng Tây Ban Nha với đúng một chỗ trống được đánh dấu bằng ____>",

"answer": "<câu trả lời đúng duy nhất cho chỗ trống>",

"hướng dẫn": "<xóa hướng dẫn>",

"độ khó": "người mới bắt đầu|trung cấp|nâng cao"

}

Thông số kỹ thuật nội dung:

- Sử dụng cảnh sống tự nhiên

- Chỉ để trống một chỗ (sử dụng chính xác dấu ____ trong câu).

- Độ dài câu nên giữ trong khoảng từ 8 đến 20 từ.

- Câu chỉ được viết bằng tiếng Tây Ban Nha, hướng dẫn có thể bằng tiếng Anh

- Tập trung thực hành đa dạng: se/estar, thì quá khứ và thì chưa hoàn thành, cách giả định, por/para, tính nhất quán, giới từ thông dụng, từ vựng cốt lõi.

};

Chúng tôi đã thêm một số ví dụ ngắn gọn để giúp mô hình hiểu định dạng đầu ra, sau đó phân tích cú pháp JSON và hiển thị bài tập. Quy trình chấm điểm cũng sử dụng định dạng JSON nghiêm ngặt để đưa ra kết quả đạt/không đạt kèm theo giải thích ngắn gọn.

Cơ chế phân tích cú pháp có khả năng chịu lỗi—nó tự động dọn dẹp các dấu hiệu mã và trích xuất khối dữ liệu JSON đầu tiên khi cần.

// web/src/App.tsx

// Trình trích xuất JSON có khả năng chịu lỗi, điều chỉnh đầu ra của mô hình có thể chứa văn bản giải thích hoặc đánh dấu mã.

hàm extractJsonObject<TExpected>(raw: string): TExpected {

const trimmed = String(raw ?? "").trim();

const fence = trimmed.match(/```(?:json)?\s*([\s\S]*?)\s*```/i);

const candidate = fence ? fence[1] : cắt tỉa;

const tryParse = (s: chuỗi) => {

thử {

trả về JSON.parse(s) dưới dạng TExpected;

} nắm lấy {

trả về không xác định;

}

};

const direct = tryParse(ứng cử viên);

nếu (trực tiếp) trả về trực tiếp;

const start = ứng viên.indexOf("{");

const end = ứng viên.lastIndexOf("}");

nếu (bắt đầu !== -1 && kết thúc !== -1 && kết thúc > bắt đầu) {

const block = candidate.slice(bắt đầu, kết thúc + 1);

const đã phân tích = tryParse(khối);

nếu (đã phân tích cú pháp) trả về đã phân tích cú pháp;

}

throw new Error("Không thể phân tích cú pháp JSON từ phản hồi của mô hình");

}

Gợi ý tiếp theo cho các nhà phát triển:

• Thêm các loại bài tập tùy chỉnh và quy tắc tính điểm

• Kích hoạt giao diện người dùng phát trực tuyến (đại lý đã hỗ trợ SSE)

• Đã thêm xác thực và giới hạn tốc độ cho proxy Gonka

• Triển khai tác nhân vào cơ sở hạ tầng của nhà phát triển và đặt VITE_DEFAULT_API_BASE_URL khi xây dựng ứng dụng web.

Tóm tắt và triển vọng

Tại sao nên chọn Gonka?

1. Lợi thế về chi phí: So với các dịch vụ đám mây truyền thống, điện toán phi tập trung giúp giảm đáng kể chi phí suy luận.
2. Bảo vệ quyền riêng tư: Các yêu cầu được ký thông qua proxy và khóa không bao giờ bị tiết lộ.
3. Khả năng tương thích: Hoàn toàn tương thích với hệ sinh thái OpenAI, với chi phí di chuyển cực kỳ thấp.
4. Độ tin cậy: Mạng phân tán đảm bảo tính khả dụng của dịch vụ cao.

Gonka cung cấp cho các nhà phát triển AI một quá trình chuyển đổi mượt mà sang kỷ nguyên điện toán phi tập trung. Thông qua các phương pháp tích hợp được mô tả trong bài viết này, các nhà phát triển có thể duy trì thói quen phát triển hiện tại của mình trong khi vẫn tận hưởng lợi thế về chi phí và lợi ích công nghệ của các mạng lưới phi tập trung. Khi cơ sở hạ tầng AI phi tập trung tiếp tục được cải thiện, mô hình phát triển này dự kiến sẽ trở thành tiêu chuẩn cho các ứng dụng AI thế hệ tiếp theo. Đồng thời, Gonka sẽ ra mắt nhiều tính năng thiết thực hơn và cùng các nhà phát triển khám phá thêm nhiều kịch bản ứng dụng AI, bao gồm nhưng không giới hạn ở các ứng dụng giáo dục thông minh, nền tảng tạo nội dung, hệ thống đề xuất được cá nhân hóa và các giải pháp dịch vụ khách hàng tự động .

Liên kết gốc: https://what-is-gonka.hashnode.dev/build-a-production-ready-ai-app-on-gonka-end-to-end-guide

Giới thiệu về Gonka.ai

Gonka là một mạng lưới phi tập trung được thiết kế để cung cấp sức mạnh tính toán AI hiệu quả, tối đa hóa việc sử dụng sức mạnh tính toán GPU toàn cầu để hoàn thành khối lượng công việc AI có ý nghĩa. Bằng cách loại bỏ các yếu tố kiểm soát tập trung, Gonka cung cấp cho các nhà phát triển và nhà nghiên cứu quyền truy cập không cần cấp phép vào tài nguyên điện toán, đồng thời thưởng cho tất cả người tham gia thông qua token gốc GNK.

Gonka được ươm mầm bởi công ty phát triển AI Product Science Inc. của Mỹ. Được thành lập bởi anh em nhà Libermans, những người kỳ cựu trong ngành Web 2 và cựu giám đốc sản phẩm cốt lõi tại Snap Inc., công ty đã huy động thành công 18 triệu đô la vào năm 2023. Các nhà đầu tư bao gồm Coatue Management, nhà đầu tư của OpenAI, Slow Ventures, nhà đầu tư của Solana, K5, và các đối tác tại Insight và Benchmark. Những người đóng góp ban đầu cho dự án bao gồm các công ty hàng đầu trong lĩnh vực Web 2-Web 3 như 6blocks, Hard Yaka, Gcore và Bitfury.

Trang web chính thức | Github | X | Discord | Sách trắng | Mô hình kinh tế | Hướng dẫn sử dụng