Bài 04
PageRank theo chủ đề,
liên kết rác và HITS

Tiên quyết và quy ước

Nhắc lại: $(M_0)_{ij}=1/d_j$ khi $j\to i$, $d_j>0$; cột là trang nguồn; cột nút cụt bằng $0$.

Nhắc lại: $r^{t+1}=\beta M_0r^t+\beta\delta^tu+(1-\beta)u$; phần $(1-\beta)u$ gọi là dịch chuyển (teleport).

Ký hiệu: đồ thị $G=(V,E)$, $n$ trang, $\ell$ cạnh (Bài 03 viết $m$); $d_j$ là bậc ra của $j$.

Ký hiệu: G4 là đồ thị bốn trang của Bài 03: A→B, C, D; B→A, D; C→A; D→B, C.

Quy ước: vector cột; dấu phẩy thập phân.

Mục tiêu học tập

1. Lập phân phối dịch chuyển; tính PageRank theo chủ đề và cận sai số khi dừng.
2. Lập phương trình điểm trang đích của cụm thao túng; tính hệ số khuếch đại.
3. Tính TrustRank và Spam Mass trên cùng mô hình; nêu giới hạn diễn giải.
4. Lập ma trận HITS; cập nhật uy tín rồi trung tâm, chuẩn hóa theo giá trị lớn nhất.
5. Chọn phương pháp theo đầu ra, thông tin bổ sung và chi phí mỗi vòng.

Vấn đề trung tâm

Nhu cầu: một tỷ người dùng cần thứ hạng theo ngữ cảnh, khó thao túng, tách hai vai trò.

• Chủ đề: $k$ vector toàn web, mỗi người $k$ trọng số.
• Cụm thao túng: đóng góp ngoài nhân $1/(1-\beta^2)$.
• Tập tin cậy: Spam Mass gần $1$ thì rà soát.
• Hai vai trò: hai vector trung tâm và uy tín.
• Mỗi vòng $\Theta(n+\ell)$; chọn theo đầu ra.

Truy vấn đa nghĩa

Nhu cầu: với “jaguar”, thứ tự trang phải phụ thuộc ngữ cảnh.

Động vật: trang về loài báo đốm; ô tô: trang về hãng xe Jaguar.

Đầu vào: trang, liên kết và chủ đề đã biết.

Đầu ra: thứ tự trang theo chủ đề.

Kết luận: PageRank toàn cục cho cùng thứ tự ở cả hai ngữ cảnh.

Lưu PageRank riêng cho từng người dùng

Cách trực tiếp lưu cho mỗi người dùng một vector PageRank trên toàn web.

Quy mô minh họa của MMDS: khoảng một tỷ người dùng, mỗi vector nhiều tỷ thành phần.

Kết luận: số vector dài cần lưu giảm từ số người dùng xuống số chủ đề $k$.

Câu hỏi về phép truyền điểm

Đồ thị G4

Giả sử $r_A=r_B=r_C=r_D=1/4$ và $\beta=4/5$.

Câu hỏi:

1. Tính phần điểm theo liên kết mà B chuyển tới A.
2. Xác định phần tử tương ứng trong $M_0$, cột là trang nguồn.

Dịch chuyển vào tập chủ đề

Nhu cầu: dịch chuyển đều tới $n$ trang cho mọi truy vấn cùng một thứ tự.

Với xác suất $\beta$: đi theo một liên kết ra, chia đều giữa các liên kết.

Với xác suất $1-\beta$: dịch chuyển tới tập chủ đề $S$, thay cho $n$ trang của Bài 03.

Lưu ý: trang ngoài $S$ vẫn nhận điểm qua liên kết; đồ thị giữ nguyên.

Ví dụ: đồ thị bốn trang, tập chủ đề {B, D}

$\beta=4/5$, $S=\{B,D\}$; thứ tự thành phần A, B, C, D.

$v$ là phân phối chọn trang đích khi thực hiện dịch chuyển: $$v=(0,1/2,0,1/2)^\mathsf T.$$

Cập nhật trên G4 (không có nút cụt), khởi tạo $r^0=v$: $$r^{t+1}=\beta M_0r^t+(1-\beta)v.$$

Diễn giải: mỗi vòng thêm $(1-\beta)v$: B, D nhận $1/10$; A, C nhận $0$.

Ví dụ: đồ thị bốn trang, vòng 1

$r^0=(0,1/2,0,1/2)^\mathsf T$, $\beta=4/5$, $S=\{B,D\}$. G4: A→B, C, D; B→A, D; C→A; D→B, C.

Tại A: $(4/5)[(1/2)(1/2)+1\cdot0]=1/5$. Tổng điểm mới bằng 1.

Ví dụ: đồ thị bốn trang, vòng 2 và điểm cố định

Tại A ở vòng 2: $r_A^2=\tfrac45\big(\tfrac12\cdot\tfrac3{10}+\tfrac15\big)=\tfrac7{25}$.

Kết luận: B, D có điểm cố định lớn hơn A; trang ngoài $S$ vẫn có điểm dương.

Thuật toán: PageRank theo chủ đề

Đầu vào: đồ thị $G=(V,E)$, $n\ge1$; phân phối $v\ge0$, $\sum_i v_i=1$; $0<\beta<1$; ngưỡng $\tau>0$ và số vòng tối đa $K\ge1$.

(1) theo liên kết; (2) bù nút cụt; (3) dịch chuyển.

Khi có nút cụt, $\delta^t=\sum_{j:d_j=0}r_j^t$ được bù đều theo $u_i=1/n$ như Bài 03; G4 có $\delta^t=0$.

Đầu ra: vector xấp xỉ và trạng thái đạt ngưỡng hoặc hết số vòng.

Thuật toán: PageRank theo chủ đề

r ← v
với t = 0, ..., K - 1:
    delta ← tổng r[j] trên các nút cụt
    với mỗi i: new[i] ← beta * delta / n + (1 - beta) * v[i]
    với mỗi j có d[j] > 0:
        với mỗi i thuộc out[j]:
            new[i] ← new[i] + beta * r[j] / d[j]
    Delta ← tổng |new[i] - r[i]|
    r ← new
    nếu Delta ≤ tau: trả về (r, đạt ngưỡng)
trả về (r, hết số vòng)

delta là $\delta^t$; Delta là $\|r^{t+1}-r^t\|_1$; mọi đóng góp của một vòng dùng $r$ cũ.

Tính đúng: PageRank theo chủ đề

Bất biến: $r^t\ge0$ và $\sum_i r_i^t=1$.

Kết luận: $r^0=v$ là phân phối, nên mọi $r^t$ là phân phối khi $v\ge0$, $\sum_iv_i=1$.

Hội tụ và cận sai số khi dừng

Ký hiệu: $\bar M$ là $M_0$ với mỗi cột nút cụt thay bằng $u$; $\bar M\ge0$, tổng mỗi cột bằng $1$.

Với $0<\beta<1$, $F(r)=\beta\bar Mr+(1-\beta)v$ co hệ số $\beta$, nên có duy nhất điểm cố định $r^*$.

Mệnh đề. Đặt $\Delta=\|r^{t+1}-r^t\|_1$; khi đó $\|r^{t+1}-r^*\|_1\le\dfrac{\beta}{1-\beta}\Delta$.

Chứng minh. Các sai khác sau đó không quá $\beta\Delta,\beta^2\Delta,\ldots$; cộng cấp số nhân.

Ý nghĩa: với $\beta=4/5$, cận sai số là $4\Delta$.

Ký hiệu cho nhiều chủ đề

Ký hiệu: $k$ chủ đề; từ đây $j=1,\ldots,k$ chỉ chủ đề, $i$ chỉ trang, $t$ chỉ vòng.

Mỗi chủ đề dùng cùng $\bar M$ và $\beta$: $$r^{(j)}=\beta\bar Mr^{(j)}+(1-\beta)v^{(j)}.$$

Tiền tính và xử lý truy vấn

Nhu cầu: mỗi người dùng chỉ lưu $k$ trọng số, không lưu vector riêng.

Kết luận: khi có truy vấn chỉ ghép điểm đã lưu, không lặp lại PageRank.

Tính tuyến tính theo phân phối dịch chuyển

Mệnh đề. Giữ cùng $\bar M$, $\beta$; $w_j\ge0$, $\sum_jw_j=1$. Khi đó

Chứng minh. Nhân phương trình chủ đề $j$ với $w_j$ rồi cộng:

$$\sum_jw_jr^{(j)}=\beta\bar M\sum_jw_jr^{(j)}+(1-\beta)\sum_jw_jv^{(j)};$$

điểm cố định duy nhất nên tổng bằng $r^*$.

Ý nghĩa: $q_i=r_i^*$ với $v=\sum_jw_jv^{(j)}$.

Câu hỏi về PageRank theo chủ đề

$\beta=4/5$, $S=\{B,D\}$.

$r^1=(1/5,3/10,1/5,3/10)^\mathsf T$

$r^2=(7/25,41/150,13/75,41/150)^\mathsf T$

Câu hỏi:

1. Tính $r_C^3$ và chỉ rõ các trang đóng góp.

2. Tính $\Delta=\|r^2-r^1\|_1$ và cận $\beta\Delta/(1-\beta)$ cho sai số của $r^2$.

Liên kết rác

Nhu cầu: liên kết vào tăng PageRank và có thể bị tạo ra.

Liên kết rác (link spam) là liên kết tạo ra chỉ để tăng điểm.

Người tạo đặt liên kết ở trang sở hữu hoặc được đăng, dồn điểm về trang đích.

Kết luận: cần định lượng mức một cấu trúc đơn giản tăng điểm trang đích.

Cụm thao túng liên kết

Cụm thao túng liên kết (spam farm) là một trang đích và $m$ trang hỗ trợ.

Đích trỏ tới mọi hỗ trợ; mỗi hỗ trợ chỉ trỏ lại đích.

Liên kết từ ngoài cụm chỉ vào đích.

Giả thiết: đồ thị không có nút cụt; $m\ge1$, $n\ge m+1$.

Điểm của một trang hỗ trợ

Ký hiệu: $y$, $p$ là điểm cố định của đích và của mỗi trang hỗ trợ; $b=(1-\beta)/n$.

Đích có đúng $m$ liên kết ra; mỗi hỗ trợ chỉ nhận cạnh từ đích.

Nguồn điểm tại một hỗ trợ	Đóng góp
Điểm theo cạnh từ đích	$\beta y/m$
Dịch chuyển đều	$b$

$$p=\frac{\beta y}{m}+b.$$

Ba nguồn điểm tại trang đích

$x$ là tổng đóng góp từ ngoài vào đích, đã nhân $\beta$ và chia bậc ra.

Nguồn điểm tại đích	Đóng góp
Liên kết từ ngoài	$x$
$m$ trang hỗ trợ, mỗi trang chỉ trỏ tới đích	$\beta mp$
Dịch chuyển đều tới đích	$b$

$$y=x+\beta mp+b.$$

Điểm cố định của trang đích

Phần điểm bắt nguồn từ đích đi qua hai bước theo liên kết:

Với $p=\beta y/m+b$ và $y=x+\beta mp+b$:

$$y=x+\beta^2y+\beta mb+b,$$ $$y=\frac{x+\beta mb+b}{1-\beta^2},\qquad b=\frac{1-\beta}{n}.$$

Ý nghĩa: hai bước tạo $\beta^2$; số hỗ trợ $m$ triệt tiêu trong phần điểm quay lại.

Hệ số khuếch đại của cụm

Bỏ hạng nhỏ do dịch chuyển trực tiếp $b$ tới đích (MMDS §5.4.2):

Với $\beta=0{,}85=17/20$:

Kết luận: cụm nhân đóng góp ngoài khoảng $3{,}6$ lần, thêm khoảng $0{,}46\,m/n$.

Hai hướng chống liên kết rác

Kết luận: hướng thứ hai dẫn tới TrustRank và Spam Mass.

Câu hỏi về cụm thao túng liên kết

Mô hình cụm của MMDS Hình 5.16, đồ thị không có nút cụt.

TrustRank

Nhu cầu: cần thông tin mà người tạo rác không kiểm soát.

TrustRank là PageRank theo chủ đề với tập dịch chuyển $T$ gồm các trang tin cậy (tập hạt giống, seed set).

Giả thiết: trang tin cậy hiếm khi trỏ tới trang rác.

Chọn $T$ ngoài thuật toán: xem xét trang PageRank cao, hoặc miền có kiểm soát (.edu, .gov).

Thuật toán: TrustRank

Đầu vào: $G$, $0<\beta<1$, tập $T\ne\varnothing$, $\tau$, $K$; $(v_T)_i=1/|T|$ nếu $i\in T$, bằng $0$ ngoài $T$.

$\rho_i^t$ là điểm TrustRank của trang $i$ ở vòng $t$; $\rho^0=v_T$; $\delta_\rho^t$, $u$ như trước.

(1) theo liên kết; (2) bù nút cụt; (3) dịch chuyển vào $T$.

Đầu ra: $\rho$ xấp xỉ và trạng thái dừng; giả mã như PageRank theo chủ đề với $r\mapsto\rho$, $v\mapsto v_T$.

Ví dụ: TrustRank trên đồ thị bốn trang

$\beta=4/5$. Giả sử B, D đã được đánh giá đáng tin: $T=\{B,D\}$, $v_T=(0,1/2,0,1/2)^\mathsf T$.

Trang	TrustRank $\rho_i$
A	$9/35$
B	$59/210$
C	$19/105$
D	$59/210$

Kết luận: cùng $v$, cùng nghiệm như ví dụ theo chủ đề; chỉ khác: $T$ là tập trang đáng tin.

Ví dụ: hiệu PageRank và TrustRank trên đồ thị bốn trang

Nhu cầu: đo phần PageRank không đến từ tập tin cậy; cùng G4, $\beta=4/5$.

Kết luận: A, C giảm khi chuyển sang TrustRank; B, D tăng.

Chỉ số Spam Mass

Định nghĩa. Với $r_i>0$, Spam Mass là tỷ lệ của $r_i$ không được tập tin cậy giải thích: $$s_i=\frac{r_i-\rho_i}{r_i}=1-\frac{\rho_i}{r_i}.$$

Diễn giải: âm hoặc dương nhỏ thì có lẽ không phải rác; gần $1$ thì có lẽ là rác.

Câu hỏi về Spam Mass

MMDS Ví dụ 5.12 trên G4: $r_C=2/9$ (PageRank không dịch chuyển, MMDS Ví dụ 5.2); TrustRank với ${T=\{B,D\}}$: $\rho_C=19/105$.

Trang trung tâm và trang uy tín

Nhu cầu: một điểm không tách trang danh sách học phần khỏi trang học phần.

Thuật toán tìm kiếm theo chủ đề dựa trên siêu liên kết (HITS) gán mỗi trang hai điểm $h_i$, $a_i$.

Trang uy tín (authority) là trang cung cấp thông tin, điểm $a_i$.

Trang trung tâm (hub) là trang chỉ tới nơi có thông tin, điểm $h_i$.

Định nghĩa tương hỗ của hai điểm

Đồ thị G5

Uy tín cộng trung tâm của trang trỏ tới; trung tâm cộng uy tín của trang được trỏ tới:

$$\tilde a_j=\sum_{i\to j}h_i,\qquad \tilde h_i=\sum_{i\to j}a_j.$$

Chỉ cộng thì giá trị thường tăng không giới hạn; sau mỗi bước chia cho thành phần lớn nhất.

Khởi tạo $h^0=(1,1,1,1,1)^\mathsf T$ theo thứ tự A,…,E.

Ví dụ: đồ thị năm trang, bước uy tín thứ nhất

$h^0=(1,1,1,1,1)^\mathsf T$; G5 giữ nguyên.

Uy tín thô là tổng $h^0$ của trang trỏ tới; chia cho giá trị lớn nhất $2$.

Ví dụ: đồ thị năm trang, bước trung tâm thứ nhất

Dùng $a^1=(1/2,1,1,1,1/2)^\mathsf T$.

Bước trung tâm dùng uy tín vừa cập nhật $a^1$; chuẩn hóa: chia cho giá trị lớn nhất, bằng $3$.

Ví dụ: đồ thị năm trang, vòng thứ hai

Từ $h^1=(1,1/2,1/6,2/3,0)^\mathsf T$; chia $\tilde a$ cho $5/3$, $\tilde h$ cho $\tilde h_A=29/10$.

Kết luận: trung tâm của C và uy tín của E giảm dần; hai vector chưa ổn định.

Ma trận liên kết của HITS

$L$ là ma trận kề: $L_{ij}=1$ khi $i\to j$, bằng 0 nếu không; hàng là trang nguồn.

Chuẩn hóa điểm HITS

Định nghĩa. Với vector không âm $q$ có $\max_iq_i>0$, chuẩn hóa theo giá trị lớn nhất là $N(q)=q/\max_iq_i$.

Ý nghĩa: giữ tỷ lệ và thứ hạng; giá trị lớn nhất thành $1$.

Ví dụ. $N\big((1,2,2,2,1)^\mathsf T\big)=(1/2,1,1,1,1/2)^\mathsf T$, tổng bằng $4$.

Lưu ý: điểm HITS không là phân phối; $N(0)$ không xác định.

Thuật toán: HITS

Đầu vào: đồ thị có ít nhất một cạnh; $\tau>0$, $K\ge1$.

Đầu ra: $h$, $a$ và trạng thái dừng.

h ← vector toàn 1; a ← vector toàn 1
với t = 0, ..., K - 1:
    a_new ← N(L chuyển vị * h)
    h_new ← N(L * a_new)
    Delta_a ← max |a_new[i] - a[i]|
    Delta_h ← max |h_new[i] - h[i]|
    a ← a_new; h ← h_new
    nếu max(Delta_a, Delta_h) ≤ tau:
        trả về (h, a, đạt ngưỡng)
trả về (h, a, hết số vòng)

Điểm ổn định của HITS

Ở điểm ổn định, chuẩn hóa chỉ đổi độ lớn ($\propto$: tỷ lệ với, hệ số dương): $$a\propto L^\mathsf Th,\qquad h\propto La.$$

Thế hai quan hệ vào nhau: $$h\propto LL^\mathsf Th,\qquad a\propto L^\mathsf TLa.$$

Giả thiết: trị riêng lớn nhất có không gian riêng một chiều; $h^0$ có thành phần theo vector riêng ấy.

Kết luận: giới hạn duy nhất; $h$, $a$ là vector riêng ứng với trị riêng lớn nhất của $LL^\mathsf T$, $L^\mathsf TL$.

Câu hỏi về HITS

Từ vòng thứ hai: $h^2=(1,\,12/29,\,1/29,\,20/29,\,0)^\mathsf T$.

Câu hỏi:

1. Tính uy tín thô $\tilde a_D$ và điểm chuẩn hóa $a_D^3$.

2. Nếu mỗi nguồn chia $h_i$ cho số liên kết ra: tính lại $\tilde a_D$; nêu định nghĩa bị thay.

3. Tính $a_E^3$; giải thích vì sao E có uy tín dương dù không có cạnh ra.

Kết quả và giả thiết không được bỏ

Thuật toán, bảo đảm và chi phí

Câu trả lời cho vấn đề trung tâm

• Cùng $\bar M$, $\beta$, $v=\sum_jw_jv^{(j)}$: ghép $k$ vector chủ đề cho đúng $r^*$ của $v$; mỗi người lưu $k$ trọng số.
• Cụm một đích, $m$ hỗ trợ, không nút cụt, $\beta=0{,}85$: $y\approx3{,}6x+0{,}46\,m/n$.
• $T=\{B,D\}$ trên G4, $r$ và $\rho$ cùng $\beta=4/5$: $s_A=s_C=1/5$ xa $1$: chưa cần rà soát; ${s_B=s_D=-23/95}$.
• Trị riêng lớn nhất có không gian riêng một chiều: $h$, $a$ là vector riêng tương ứng của $LL^\mathsf T$, $L^\mathsf TL$.
• Mọi phép lặp $\Theta(n+\ell)$ mỗi vòng; chọn theo đầu ra cần có.

Kết luận: $k$ vector thay một tỷ vector riêng; Spam Mass chỉ trang cần rà soát; HITS tách hai vai trò.

Câu hỏi tự kiểm tra

Câu hỏi: trả lời và nêu kết quả đã dùng.

1. G4, $\beta=4/5$, tập dịch chuyển đổi từ {B, D} sang {C}: trong phép lặp, đại lượng nào đổi, nào giữ?
2. PageRank theo chủ đề, HITS cùng $\Theta(n+\ell)$ mỗi vòng: đánh giá “cùng thời gian chạy”; nêu đại lượng thiếu.

Câu hỏi tự kiểm tra

Câu hỏi: trả lời và nêu kết quả đã dùng.

3. Cụm MMDS Hình 5.16, không nút cụt, không trang nào của cụm thuộc $T$: viết $p$, $y$ của TrustRank; nêu số hạng mất.
4. Một hệ thống thay mọi Spam Mass âm bằng $0$: đánh giá theo định nghĩa và cách đọc của chỉ số.
5. G4, $h^0=(1,1,1,1)^\mathsf T$: tính $a^1$, so với PageRank nền $(9/28,19/84,19/84,19/84)^\mathsf T$; giải thích khác biệt.

Nguồn và tài liệu đọc

Nguồn: Leskovec, Rajaraman, Ullman (2020), Mining of Massive Datasets, ấn bản 3, Chương 5, §§5.3–5.5, tr.195–208; Hình 5.1, tr.178.

Sách và trang chiếu của các tác giả: http://www.mmds.org.

Nguồn: Stanford CS246 (2026), Leskovec và Kanatsoulis, bài “Link spam”; Teufel (2012), Information Retrieval, Cambridge (HITS).

Ghi chú bài giảng

Bài tập: PageRank với hai tập dịch chuyển

$\beta=4/5$, kế thừa MMDS Ví dụ 5.10; tám cạnh của G4 giữ nguyên.

Câu hỏi: tính PageRank theo chủ đề khi tập dịch chuyển là (a) chỉ A; (b) A và C.

Trình bày hai phân phối dịch chuyển, hệ phương trình và hai vector theo thứ tự A, B, C, D.

Kiểm tổng bằng 1 và phương trình cố định.

Nguồn: MMDS 3e, Bài 5.3.1(a, b), §5.3.5, tr.199.

Bài tập: biến thể cụm thao túng

Giữ mô hình MMDS Hình 5.16, trừ cạnh ra của các hỗ trợ; $x$ đã gồm $\beta$; $b=(1-\beta)/n$.

Câu hỏi: phân tích lại khi mỗi hỗ trợ (a) chỉ có khuyên; (c) có khuyên và cạnh tới đích.

Viết phương trình của $p$, $y$ và biểu thức $y$ theo $x$, $m$, $n$, $\beta$; ghi rõ chính xác hay xấp xỉ.

Nguồn: MMDS 3e, Bài 5.4.1(a, c), §5.4.6, tr.203–204.

Bài tập: HITS trên chuỗi có khuyên

Đồ thị có $n$ đỉnh, cạnh $1\to1$ và $i\to i+1$ với $1\le i<n$; $n\ge1$.

Khởi tạo $h^0=a^0=\mathbf1$; sau mỗi phép nhân, chuẩn hóa phần tử lớn nhất bằng 1.

Nêu hai vector giới hạn, lập luận từ phép lặp hoặc ma trận, và các trường hợp $n=1$, $n=2$.

Nguồn: MMDS 3e, Bài 5.5.2, §5.5.3, tr.208; Hình 5.9, tr.189.