Basic linear algebra : Linear mapping

หัวข้อ

1. Linearity
2. Linear equation
3. System of linear equations
4. Linear function
5. Linear mapping
6. Translation
7. Affine function
8. Projection Transformation
9. Reflection across a line

---

Linearity [1]

"linear" มาจากภาษาละติน "linearis" หมายถึง เหมือนหรือสัมพันธ์กับเส้นตรง ในทางคณิตศาสตร์มอง linearity คือรูปแบบของความสัมพันธ์ระหว่างตัวแปร เมื่อนำมา plot graph แล้วจะมองได้ว่าเป็นเส้นตรง ถ้าพิจารณาสัดส่วนระหว่างตัวแปรก็จะมีแนวโน้มเข้าหาค่าคงที่ค่าหนึ่ง  ตัวอย่างข้อมูลในตารางที่ 1 คือส่วนหนึ่งของข้อมูลของความสูง (ซม.) กับ น้ำหนัก (กก.) ของเด็กกลุ่มหนึ่ง กราฟแสดงความสัมพันธ์ระหว่างความสูงและน้ำหนักแสดงในรูปที่ 1 โดยใช้ข้อมูลจาก 30 คน

ตารางที่ 1 : ตัวอย่างข้อมูลแสดงความสัมพันธ์ระหว่างน้ำหนักกับความสูง

น้ำหนัก (กก.)	ความสูง (ซม.)
50.0	141.9
51.0	148.7
52.1	146.6
53.1	153.9
54.1	148.7
55.2	151.9
56.2	150.1
57.2	150.8
58.3	148.9
59.3	150.9
...	...

รูปที่ 1 กราฟแสดงความสัมพันธ์ระหว่างความสูงกับน้ำหนัก

ในรูปที่ 1 จุดสีน้ำเงินแทนข้อมูลที่มาจากตาราง ข้อมูลที่เก็บมาจากสภาพในธรรมชาติจริงมักไม่เรียบเหมือนกับข้อมูลที่เกิดขึ้นตามทฤษฎี แต่จะมีแนวโน้มเป็นไปตามทฤษฎี จึงสร้างเส้นตรงสีแดงเพื่อช่วยทำให้เห็นว่าความสัมพันธ์ของข้อมูลนั้นอยู่ในรูปแบบของเส้นตรง หรือมี linearity  

ภาพของแนวโน้มนี้จะชัดเจนมากขึ้นเมื่อมีจำนวนข้อมูลมากขึ้น ดูได้จากรูปที่ 2 ความชัดเจนของ linearity มีมากขึ้นเมื่อใช้ข้อมูลจาก 1000 คน

 รูปที่ 2 ลักษณะความสัมพันธ์แสดงให้เป็นรูปแบบเส้นตรงชัดขึ้นเมื่อจำนวนตัวอย่างเพิ่มขึ้น

[Top]

---

Linear equation [2]

พิจารณาตัวอย่างการทำ Green Smoothie 1 แก้ว มีส่วนผสมดังนี้ 

• ผักโขม 2 ถ้วยตวง
• น้ำเปล่า 2 ถ้วยตวง
• เนื้อมะม่วง 1 ถ้วยตวง
• เนื้อสัปรด 1 ถ้วยตวง
• กล้วย 1 ผล

เราอาจเขียนสูตรนี้ใหม่ในรูปแบบของสมการเชิงเส้น (linear equation) ได้ดังนี้

$$\begin{array}{}\text{(1.0)}& \text{smoothie}=(2\times \text{spinach})+(2\times \text{water})+\text{mango}+\text{pineapple}+\text{banana}\end{array}$$

หรือ

$$\begin{array}{}\text{(1.1)}& y=2x_1+2x_2+x_3+x_4+x_5\end{array}$$

เมื่อ $y$ แทนจำนวนแก้วของ Green smoothie

$x_1$ แทน spinach, 

$x_2$ แทน water, 

 $x_3$ แทน mango ,

$x_4$ แทน pineapple และ 

$x_5$ แทน banana 

สมการ (1.1) อยู่ในรูปแบบของ linear form หรือ linear equation ช่วยให้เราสามารถจัดการกับปริมาณวัตถุดิบที่จะใช้หรือปริมาณของ Green Smoothie ที่จะได้เมื่อทราบจำนวนของวัตถุดิบ เช่น ถ้าต้องการ Green Smoothie จำนวน 50 แก้ว การคำนวณหาปริมาณวัตถุดิบที่ต้องการทั้งหมดคือการด้วย 50 เข้าไปใน (1.1) ก็จะได้จำนวนวัตถุดิบแต่ละชนิดที่ต้องการ

ทำให้เราสรุปรูปแบบทั่วไปของ linear equation ได้ดังนี้ 

$$\begin{array}{}\text{(1.3)}& y=a_1{x}_1+a_2{x}_2+a_3{x}_3+...+a_n{x}_n\end{array}$$

เรียก $x_1,x_2,x_3,...,x_n$ ว่า unknown variables , $a_1,a_2,a_3,...,a_n$ ว่า parameters หรือ coefficients

[Top]

---

System of linear equations

เป็นการขยายความต่อจากตัวอย่างการผลิต Green Smoothie สมมุติมีโรงงาน A ผลิตและจำหน่ายสินค้า n ชนิด สินค้าแต่ละชนิดใช้วัตถุดิบ m ชนิดในปริมาณที่ต่างกัน

ถ้าให้  $P_1,P_2,P_3,...,P_n$ แทนจำนวนหน่วยของสินค้าชนิดที่ 1 ,2, 3,...,n ที่จะผลิตได้

ให้  $M_1,M_2,M_3,...,M_m$ แทนจำนวนของวัตถุดิบแต่ละชนิดที่ใช้ต้องใช้ในการผลิตสินค้า 

ให้ $a_{n,m}$ แทนจำนวนหน่วยของวัตถุดิบที่ m ใช้ในการผลิตสินค้า n

จากข้อมูลนี้นำมาเขียน linear equation ของการผลิตสินค้าชนิดต่างๆ ดังนี้

$$\begin{array}{rl}{P}_1& =a_{1,1}{M}_1+a_{1,2}{M}_2+a_{1,3}{M}_3+...+a_{1,m}{M}_m\\ P_2& =a_{2,1}{M}_1+a_{2,2}{M}_2+a_{2,3}{M}_3+...+a_{2,m}{M}_m\\ P_3& =a_{3,1}{M}_1+a_{3,2}{M}_2+a_{3,3}{M}_3+...+a_{3,m}{M}_m\\ ⋮\\ P_n& =a_{n,1}{M}_1+a_{n,2}{M}_2+a_{n,3}{M}_3+...+a_{n,m}{M}_m\end{array}$$

collection ของ linear equations ในระบบหนึ่งลักษณะนี้เราเรียกว่า System of linear equations

สังเกตุจะพบว่า $a_{1,1},a_{2,1},a_{3,1},...,a_{n,1}$ จะคูณด้วย $M_1$  และ $a_{1,2},a_{2,2},a_{3,2},...,a_{n,2}$ จะคูณด้วย $M_2$ แบบนี้ไปเรื่อยๆ จนถึง $a_{1,m},a_{2,m},a_{3,m},...,a_{n,m}$ จะคูณด้วย $M_m$    นั่นคือ system of linear equations อาจถูกเขียนในแบบของ vector - scalar multiplicationได้ดังนี้

$$\begin{array}{}\text{(2.1)}& \left[\begin{array}{c}{P}_1\\ P_2\\ P_3\\ ⋮\\ P_n\end{array}\right]=M_1\cdot \left[\begin{array}{c}{a}_{1,1}\\ a_{2,1}\\ a_{3,1}\\ ⋮\\ a_{n,1}\end{array}\right]+M_2\cdot \left[\begin{array}{c}{a}_{1,2}\\ a_{2,2}\\ a_{3,2}\\ ⋮\\ a_{n,2}\end{array}\right]+M_3\cdot \left[\begin{array}{c}{a}_{1,3}\\ a_{2,3}\\ a_{3,3}\\ ⋮\\ a_{n,3}\end{array}\right]+\cdots +M_m\cdot \left[\begin{array}{c}{a}_{1,m}\\ a_{2,m}\\ a_{3,m}\\ ⋮\\ a_{n,m}\end{array}\right]\end{array}$$

หรือ แปลงให้อยู่ในรูปแบบของ matrix dot operation ( มองว่า vector เป็น column matrix)

$$\begin{array}{rl}\left[\begin{array}{c}{P}_1\\ P_2\\ P_3\\ ⋮\\ P_n\end{array}\right]& =\left[\begin{array}{ccccc}{a}_{1,1}& a_{1,2}& a_{1,3}& \cdots & a_{1,m}\\ a_{2,1}& a_{2,2}& a_{2,3}& \cdots & a_{2,m}\\ a_{3,1}& a_{3,2}& a_{3,3}& \cdots & a_{3,m}\\ ⋮& ⋮& ⋮& \cdots & ⋮\\ a_{n,1}& a_{n,2}& a_{n,3}& \cdots & a_{n,m}\end{array}\right]\cdot \left[\begin{array}{c}{M}_1\\ M_2\\ M_3\\ ⋮\\ M_m\end{array}\right]\\ \\ \text{(2.2)}& \overrightarrow{P}& =A\cdot \overrightarrow{M}\end{array}$$

สมการ (2.2) อาจถูกเรียกว่า ฟังก์ชั่นเป้าหมาย (objective function)

 

[Top]

---

Linear function [3,4]

สมมุติว่าทราบความสัมพันธ์บางอย่างของ unknown variable 3 ตัว ในรูปแบบ  $8a-4b+10c=20$ นั่นคือ

 $$\begin{array}{rl}4b& =8a+10c-20\\ b& =2a+\frac{5}{2}c-5\end{array}$$

หมายความว่าหากเราทราบค่าของ a  และ c แล้ว ก็จะสามารถหาค่าของ b ได้ หรือหากทราบค่าของสองตัวแปรใดๆ จะหาค่าของตัวแปรที่เหลือได้ ถ้ามองในมุม function  a,c คือ input  และ b คือ output ความสัมพันธ์ในรูปแบบของ function  เขียนได้ดังนี้

$$f(a,c)=2a+\frac{5}{2}c-5$$

ทำนองเดียวกัน linear equation (1.3) ก็ถูกมองในรูปแบบของ function ได้โดยทุก unknown variables $x_n$ คือ input ของ function สมการ (1.3) เขียนใหม่ได้เป็น

$$\begin{array}{}\text{(3.1)}& f(x_1,x_2,x_3,...,x_n)=a_1{x}_1+a_2{x}_2+a_3{x}_3+...+a_n{x}_n\end{array}$$

เรียกว่า (3.1) ว่า linear function เมื่อนำแนวคิดเรื่อง vector  dot product [5] มาใช้กับสมการ (3.1) จะเขียนใหม่ได้เป็น

$$\begin{array}{rl}f(x_1,x_2,x_3,...,x_n)& =\left[\begin{array}{c}{a}_1\\ a_2\\ a_3\\ ⋮\\ a_n\end{array}\right]\cdot \left[\begin{array}{c}{x}_1\\ x_2\\ x_3\\ ⋮\\ x_n\end{array}\right]\\ \\ \text{(3.2)}& f(\overrightarrow{x})& =\overrightarrow{a}\cdot \overrightarrow{x}\end{array}$$

เราทราบว่า $f(\overrightarrow{x})\in \mathrm{\Re }$ และ $\overrightarrow{a}\cdot \overrightarrow{x}\in {\mathrm{\Re }}^n$ จึงสรุปได้ว่า linear function คือ function ที่ map จาก set ของ n-vectors ไปสู่ set ของ real number $f:{\mathrm{\Re }}^n\to \mathrm{\Re }$

[Top]

---

Linear mapping [6]

คำว่า "mapping" คือ กฎที่ใช้ระบุการจับคู่สมาชิกใดๆของ set หนึ่งไปยังอีก set หนึ่งในลักษณะแบบ many to one ซึ่งเป็นความหมายเดียวกันกับ "function" [7] เพียงแต่เมื่อกล่าวในบริบทของ linear mapping จะใช้กับการโยงระหว่าง vector space แทน set 

ถ้า T คือ function หรือ mapping ระหว่าง vector space V ไปยัง vector space W เขียนแทนด้วย $T:V\to W$ สำหรับ $\overrightarrow{u},\overrightarrow{v}\in V$ แล้ว T ต้องสอดคล้องกับคุณสมบัติสองข้อคือ

1. $T(\overrightarrow{v}+\overrightarrow{u})=T(\overrightarrow{v})+T(\overrightarrow{u})$
2. $T(a\overrightarrow{v})=aT(\overrightarrow{v})$

ถ้ามี $\overrightarrow{v}=\left[\begin{array}{c}{v}_1\\ v_2\\ ⋮\\ v_n\end{array}\right]$ จะสามารถเขียน $\overrightarrow{v}$ ในรูปแบบของ span คือ $v_1\cdot \overrightarrow{e_1}+v_2\cdot \overrightarrow{e_2}+...+v_n\cdot \overrightarrow{e_n}$ เมื่อ $\overrightarrow{e_1},\overrightarrow{e_2},\overrightarrow{e_3},...,\overrightarrow{e_n}$ คือ basis vectors ของแต่ละแกนบน  plane เช่น $\left[\begin{array}{c}3\\ 7\end{array}\right]=3\left[\begin{array}{c}1\\ 0\end{array}\right]+7\left[\begin{array}{c}0\\ 1\end{array}\right]$

นั่นคือ

$$\begin{array}{rl}T(\overrightarrow{v})& =T(v_1\cdot \overrightarrow{e_1}+v_2\cdot \overrightarrow{e_2}+...+v_n\cdot \overrightarrow{e_n})\\ & =T(v_1\cdot \overrightarrow{e_1})+T(v_2\cdot \overrightarrow{e_2})+...+T(v_n\cdot \overrightarrow{e_n})\\ & =v_1\cdot T(\overrightarrow{e_1})+v_2\cdot T(\overrightarrow{e_2})+...+v_n\cdot T(\overrightarrow{e_n})\\ \\ \text{(4.1)}& \therefore T(\overrightarrow{v})& =v_1\cdot T(\overrightarrow{e_1})+v_2\cdot T(\overrightarrow{e_2})+...+v_n\cdot T(\overrightarrow{e_n})\end{array}$$

พิจารณาสมการ $(4.1)$ จะเห็นว่าสามารถมองในรูปแบบของ matrix-vector multiplication ได้ คือ

$$\begin{array}{rl}T(\overrightarrow{v})& =\left[\begin{array}{ccc}T(\overrightarrow{e_1})& T(\overrightarrow{e_2})& ...T(\overrightarrow{e_n})\end{array}\right]\cdot \left[\begin{array}{c}{v}_1\\ v_2\\ ⋮\\ v_n\end{array}\right]\\ \\ \text{(4.2)}& \therefore T(\overrightarrow{v})& =A\cdot \overrightarrow{v}\end{array}$$

เรียก A ใน (4.2) ว่า Transform Matrix

ตัวอย่าง ต้องการหา vector ที่ตั้งฉากกับ $\overrightarrow{u}=\left[\begin{array}{c}2\\ 3\end{array}\right]$ ในทิศทางตามเข็มนาฬิกา

จากกำหนดให้ $\overrightarrow{u}\in {\mathrm{\Re }}^2$ ทำให้ทราบว่า $\left[\begin{array}{c}1\\ 0\end{array}\right],\left[\begin{array}{c}0\\ 1\end{array}\right]$ คือ basis ของ dimension ที่ 1 และ 2 ตามลำดับ

พิจารณา $\left[\begin{array}{c}1\\ 0\end{array}\right]$ vector ที่ตั้งฉากกันในทิศตามเข็มนาฬิกาคือ $\left[\begin{array}{c}0\\ -1\end{array}\right]$

พิจารณา $\left[\begin{array}{c}0\\ 1\end{array}\right]$ vector ที่ตั้งฉากกันในทิศตามเข็มนาฬิกาคือ $\left[\begin{array}{c}1\\ 0\end{array}\right]$

นำไปแทนค่าตาม $(4.1)$ target vector ที่ได้ก็คือ $2\times \left[\begin{array}{c}0\\ -1\end{array}\right]+3\times \left[\begin{array}{c}1\\ 0\end{array}\right]=\left[\begin{array}{c}3\\ -2\end{array}\right]$

ตัวอย่าง ถ้ามี $\overrightarrow{u}=\left[\begin{array}{c}3\\ 6\end{array}\right]$ และ $A=\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]$ จะสามารถสร้าง $\overrightarrow{v}$ ที่ได้จาก การทำ linear mapping ดังนี้

 

$$\begin{array}{rl}\overrightarrow{v}& =A\cdot \overrightarrow{u}\\ \\ \overrightarrow{v}& =\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot \left[\begin{array}{c}3\\ 6\end{array}\right]\\ \\ \overrightarrow{v}& =\left[\begin{array}{c}6\\ -3\end{array}\right]\end{array}$$

ในกรณีนี้ $T:\overrightarrow{u}\to \overrightarrow{v}$ คือ $T(\overrightarrow{u})=A\cdot \overrightarrow{u}$ นำ $\overrightarrow{u},\overrightarrow{v}$ ไปวาดลงบน plate จะเห็นว่าตั้งฉากกัน  นั่นคือ T ในตัวอย่างนี้คือการ map $\overrightarrow{u}$ ไปหา orthogonal vector 

รูปที่ 3

ตัวอย่าง จากตัวอย่างก่อนหน้า จงพิสูจน์ว่า $T:u\to v$ สอดคล้อง

กับคุณสมบัติของ linear mapping หรือไม่

พิสูจน์ว่า $A\cdot (\overrightarrow{u}+\overrightarrow{v})=A\cdot \overrightarrow{u}+A\cdot \overrightarrow{v}$ สมมุติให้ $\overrightarrow{v}=\left[\begin{array}{c}2\\ 3\end{array}\right]$

$$\begin{array}{rl}A\cdot (\overrightarrow{u}+\overrightarrow{v})& =\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot (\left[\begin{array}{c}3\\ 6\end{array}\right]+\left[\begin{array}{c}2\\ 3\end{array}\right])\\ \text{(4.3)}& & =\left[\begin{array}{c}9\\ -5\end{array}\right]\\ A\cdot \overrightarrow{u}+A\cdot \overrightarrow{v}& =\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot \left[\begin{array}{c}3\\ 6\end{array}\right]+\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot \left[\begin{array}{c}2\\ 3\end{array}\right]\\ \text{(4.4)}& & =\left[\begin{array}{c}9\\ -5\end{array}\right]\end{array}$$

(4.3) = (4.4) สอดคล้องกับคุณสมบัติข้อแรก

พิสูจน์ว่า $A\cdot (a\times \overrightarrow{u})=a\times (A\cdot \overrightarrow{u})$ สมมุติให้ $a=3$

$$\begin{array}{rl}A\cdot (3\times \overrightarrow{u})& =\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot \left[\begin{array}{c}9\\ 18\end{array}\right]\\ \text{(4.5)}& & =\left[\begin{array}{c}18\\ -9\end{array}\right]\\ 3\times (A\cdot \overrightarrow{u})& =3\times (\left[\begin{array}{cc}0& 1\\ -1& 0\end{array}\right]\cdot \left[\begin{array}{c}3\\ 6\end{array}\right])\\ \text{(4.6)}& & =\left[\begin{array}{c}18\\ -9\end{array}\right]\end{array}$$

(4.5) = (4.6) สอดคล้องกับคุณสมบัติข้อแรก

ตัวอย่าง Transform matrix linear mappings

การทำ linear mapping ด้วย matrix transform จะพบได้บ่อยในงานด้าน image processing , computer vision และ neural network ตัวอย่าง transform matrix แสดงในตารางที่ 2 [8] เช่น

ตารางที่ 2 ตัวอย่าง transform matrix สำหรับ linear mapping ในงาน computer graphic

Transformation	Matrix	Note
Scaling	$\left[\begin{array}{ccc}{s}_x& 0& 0\\ 0& s_y& 0\\ 0& 0& 1\end{array}\right]$
Rotation	$\left[\begin{array}{cc}cos(\theta )& -sin(\theta )\\ sin(\theta )& cos(\theta )\end{array}\right]$
Shearing	$\left[\begin{array}{ccc}1& s_h& 0\\ s_v& 1& 0\\ 0& 0& 1\end{array}\right]$

 

ตัวอย่างการทำ linear mapping ด้วย rotation matrix ด้วยมุม ${45}^{\circ }$ทำให้เกิดการเปลี่ยนแปลงขึ้นดังรูปที่ 4 และ 5  input vectors แทนด้วยสีแดง output vectors แทนด้วยสีฟ้า จะสังเกตุเส้นประซึ่งแสดงให้เห็นการเปลี่ยนตำแหน่งของของรูปสี่เหลี่ยมมีการหมุนหรือการย้ายตำแหน่ง โดยที่สัดส่วนไม่ได้มีการเปลี่ยน

รูปที่ 4 ผลของการใช้ rotation matrix 

รูปที่ 5 ผลของการใช้ translation matrix

การใช้ linear mapping ในการเปลี่ยน color space ของภาพ เพื่อช่วยในการวิเคราะห์ภาพ จาก Red Green Blue (RGB) color space [11] ไปยัง Luminance, Chrominance (YCbCr) [12] โดยใช้สมการ

$$\begin{array}{rl}A\cdot \text{RGB}& =\text{YCbCr}\\ \\ \left(\begin{array}{cccc}0.299& 0.587& 0.114& 0\\ -0.169& -0.331& 0.5& 128\\ 0.5& -0.419& -0.081& 128\end{array}\right)\cdot \left(\begin{array}{c}R\\ G\\ B\end{array}\right)& =\left(\begin{array}{c}Y\\ Cb\\ Cr\end{array}\right)\end{array}$$

รูปที่ 6 ภาพที่แสดงด้วย YCrCb (บน) และ RGB (ล่าง) แยกตาม channel 

จากรูปที่ 6 ภาพที่ใช้ RGB colorspace (3 ภาพล่าง) เมื่อแยกออกมาแสดงเป็นแต่ละ channel  (Red, Gree, Blue) แล้ว จะเห็นว่ามีความแตกต่างน้อย ในขณะที่ภาพที่ใช้ YCbCr colorspace (3 ภาพบน) จะแสดงความแตกต่างกันในแต่ละ channel (Y,Cr,Cb) ได้ชัดเจนกว่า

[Top]

---

Translation

Translation เป็น linear mapping แบบหนึ่ง ที่อยู่ในรูปแบบ $T:R^n\to R^n$ โดยที่ $$\begin{array}{}\text{(5.0)}& T(\overrightarrow{x})=\overrightarrow{x}+\overrightarrow{b}\end{array}$$ เมื่อ $\overrightarrow{b}$ เป็น vector ที่ไม่เปลี่ยนแปลง (fixed vector)  ตัวอย่างแสดงในรูปที่ 7 set ของ vector เดิมแทนด้วยสีแดง set ของ vector ที่ถูก translate แทนด้วยสีน้ำเงิน

รูปที่ 7 แสดงการ translate ด้วย $\overrightarrow{b}=\left[\begin{array}{c}2\\ 3\end{array}\right]$

[Top]

---

Affine mapping [9,10]

Affine mapping หรือ affine function คือ function ที่มีกิจกรรมสองอย่างคือ linear mapping และ translation รูปแบบทั่วไปคือ

 $$\begin{array}{}\text{(6.0)}& A(\overrightarrow{x})=M\cdot \overrightarrow{x}+\overrightarrow{b}\end{array}$$

 

เมื่อ M คือ linear transform matrix (linear mapping matrix) และ $\overrightarrow{b}$ คือ translation vector

โดยนิยามแล้ว ทุก linear function ถือว่าเป็น affine function แต่ไม่ทุก affine  function จะเป็น linear function พิสูจน์ได้จาก ถ้ากำหนดให้  $$\begin{array}{rl}A(\overrightarrow{u})& =M\cdot \overrightarrow{u}+\overrightarrow{b}\\ \\ A(\overrightarrow{v})& =M\cdot \overrightarrow{v}+\overrightarrow{b}\end{array}$$

แล้วจะได้

$$A(\overrightarrow{u}+\overrightarrow{v})=M\cdot (\overrightarrow{u}+\overrightarrow{v})+\overrightarrow{b}$$

ในขณะที่

$$\begin{array}{rl}A(\overrightarrow{u})+A(\overrightarrow{v})& =M\cdot \overrightarrow{u}+\overrightarrow{b}+M\cdot \overrightarrow{v}+\overrightarrow{b}\\ & =M\cdot (\overrightarrow{u}\cdot \overrightarrow{v})+2\overrightarrow{b}\end{array}$$

จะเห็นได้ว่า $A(\overrightarrow{u}+\overrightarrow{v})\ne A(\overrightarrow{u})+A(\overrightarrow{v})$ ในกรณีของ affine function

ตัวอย่างการสร้าง affine function ที่ประกอบด้วย linear function คือการทำ shearing  ด้วย $\left[\begin{array}{cc}1& 0.4\\ 0& 1\end{array}\right]$ (ดูตารางที่ 2) และ translation ด้วย $\left[\begin{array}{c}3\\ 3\end{array}\right]$ ของลุ่ม vector $\left[\begin{array}{c}1\\ 3\end{array}\right],\left[\begin{array}{c}3\\ 3\end{array}\right],\left[\begin{array}{c}3\\ 1\end{array}\right],\left[\begin{array}{c}1\\ 1\end{array}\right]$

รูปที่ 8 linear mapping ด้วย shearing (ซ้าย) affine mapping ด้วย shearging และ  translation (ขวา)

$$\begin{array}{rl}A(\left[\begin{array}{c}1\\ 3\end{array}\right])& =\left[\begin{array}{cc}1& 0.4\\ 0& 1\end{array}\right]\cdot \left[\begin{array}{c}1\\ 3\end{array}\right]+\left[\begin{array}{c}3\\ 3\end{array}\right]\\ \\ A(\left[\begin{array}{c}1\\ 3\end{array}\right])& =\left[\begin{array}{c}5.2\\ 6\end{array}\right]\end{array}$$

ด้วยวิธีการของ augmatation เราสามารถเขียนสมการนี้ใหม่ได้ด้วย

$$\begin{array}{r}A(\left[\begin{array}{c}1\\ 3\end{array}\right])=\left[\begin{array}{ccc}1& 0.4& 3\\ 0& 1& 3\end{array}\right]\cdot \left[\begin{array}{c}1\\ 3\\ 1\end{array}\right]\end{array}$$

vector ที่เหลือก็สามารถจัดการด้วยวิธีการเดียวกันได้ ผลที่ได้ดูจากรูปที่ 8

Affine function ใน perceptron 

perceptron เป็นพื้นฐานของ neural network ใน perceptron มี 2  functions ทำงานร่วมกัน คือ accumulation function และ activation function  [13] ในส่วน  accumulation function คือ

 

$$g(x)=\sum _{i=1}^n{w}_i{x}_i+b$$

ถ้าให้ x ,b เป็น vector และ w เป็น matrix เราก็สามารถเขียนในรูปแบบของ operation ระหว่าง matrix กับ vector ได้

$$g(\overrightarrow{x})=W\cdot \overrightarrow{x}+\overrightarrow{b}$$

จะเห็นว่า $g(\overrightarrow{x})$ ก็คือ affine function นั่นคือภายใน neural network (ไม่นับ learning algorithm ) คือ affine function กับ activation function 

[Top]

---

Projection transformation

Projection เหมือนกับการเกิดเงาของคนบนกำแพง หากเทียบคนกับ vector แล้วกำแพงเทียบกับ axis หรือ plane เงาของคนบนกำแพงหรือพื้นก็คือ projection vector ของคน

รูปที่ 9 เงาของคนบนกำแพงเทียบได้กับ projection vector

ใน 2 D space , ถ้า projection ของ $\overrightarrow{x}=\left[\begin{array}{c}x\\ y\end{array}\right]$ บน X - axis คือ $\left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\end{array}\right]$ แล้ว จะได้

$$\begin{array}{rl}{x}^{\prime }& =x+0y\\ y^{\prime }& =0+0y\end{array}$$ หรืออาจเขียนให้อยู่ในรูปของ linear transformation คือ

$$\begin{array}{rl}\left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\end{array}\right]& =\left[\begin{array}{cc}1& 0\\ 0& 0\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\end{array}\right]\end{array}$$

ทำนองเดียวกัน projection vector บน Y-axis หาได้จาก

$$\begin{array}{rl}\left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\end{array}\right]& =\left[\begin{array}{cc}0& 0\\ 0& 1\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\end{array}\right]\end{array}$$

สรุปคือ transform matrix สำหรับ $\overrightarrow{x}=\left[\begin{array}{c}x\\ y\end{array}\right]$ บน X-axis คือ $\left[\begin{array}{cc}1& 0\\ 0& 0\end{array}\right]$ และบน Y-axis คือ $\left[\begin{array}{cc}0& 0\\ 0& 1\end{array}\right]$

รูปที่ 10 projection บน x-axis หรือ y-axis

ใน 3 D space หรือมากกว่า หลักการยังคงเหมือนเดิมแต่ projection vector จะเป็น vector บน plane ไม่ใช่บน axis 

รูปที่ 11 projection vector ที่มี dimension มากกว่า 2 จะอยู่บน plane 

ถ้ามี $\left[\begin{array}{c}x\\ y\\ z\end{array}\right]$ projection ที่เกิดขึ้นจะอยู่บน plane ได้ทั้ง plane คือ x-y, x-z, หรือ y-z 

บน plane x-y $$\begin{array}{rl}{x}^{\prime }& =x+0y+0z\\ y^{\prime }& =0x+y+0z\\ z^{\prime }& =0x+0y+0z\\ \\ \left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\\ z^{\prime }\end{array}\right]& =\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 0\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\\ z\end{array}\right]\end{array}$$

บน plane x-z $$\begin{array}{rl}{x}^{\prime }& =x+0y+0z\\ y^{\prime }& =0x+0y+0z\\ z^{\prime }& =0x+0y+z\\ \\ \left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\\ z^{\prime }\end{array}\right]& =\left[\begin{array}{ccc}1& 0& 0\\ 0& 0& 0\\ 0& 0& 1\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\\ z\end{array}\right]\end{array}$$

บน plane y-z $$\begin{array}{rl}{x}^{\prime }& =0x+0y+0z\\ y^{\prime }& =0x+y+0z\\ z^{\prime }& =0x+0y+z\\ \\ \left[\begin{array}{c}{x}^{\prime }\\ y^{\prime }\\ z^{\prime }\end{array}\right]& =\left[\begin{array}{ccc}0& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\\ z\end{array}\right]\end{array}$$

กลับไปเทียบกับเรื่องของเงา เงาของคนเป็นภาพที่เกิดบนพื้นผิว 2 มิติ และหากเราใช้การสังเกตุเงาแทนการสังเกตุที่ตัวคน กริยาที่สังเกตุได้จากเงาจะสอดคล้องกับกริยาที่คนกระทำ นั้นคือเราสามารถเข้าใจสิ่งที่เกิดขึ้นจากภาพ 2 มิติแทนการสังเกตุภาพที่เกิดใน 3 มิติได้ การทำ projection ไปบน plane หรือ a-xis ก็คล้ายกัน projection ที่เกิดขึ้นจะมีมิติลดลงจาก vector เดิมแต่เราก็ยังสามารถนำมาใช้งานและผลที่ได้มาก็ยังสอดคล้องกับผลที่จะเกิดขึ้นกับ vector จริงอยู่

[Top]

---

Reflection across a line

เมื่อแสงอาทิตย์ส่องมายังพื้นผิวที่สะท้อนแสงได้ก็จะเกิดการสะท้อนของแสงขึ้น (reflection) แสงที่ตกกระทบกับแสงสะท้อนจะทำมุมกับเส้นตรงที่ตั้งฉากกับพื้นผิวด้วยมุมที่เท่ากัน

รูปที่ 12

ในทาง linear transform หากต้องการหา  reflection vector ด้วยการใช้ matrix transform เราจำเป็นต้องหา matrix นั้นก่อน  

กำหนดให้เส้นตรง$L_1$ บน 2D space แทนด้วยสมการ $y=mx$ และมี $\overrightarrow{a}$ ที่ไม่อยู่บนเส้นตรง $L_1$ (ดูรูปที่ 13) เทียบกับรูปที่ 12 แล้ว  $L_1$ คือ orthogonal line $\overrightarrow{a}$ คือ แสงอาทิตย์ที่ตกลงมา (แต่เราจะพิจารณาในทิศทางตรงข้าม) การจะหา reflection ของ $\overrightarrow{a}$ รอบ $L_1$ จำเป็นต้องหาส่วนที่หายไปก่อน คือ สิ่งที่เทียบได้กับพื้นผิวสะท้อนแสง

รูปที่ 13

เราทราบว่า เส้นตรงสองเส้นที่ตั้งฉากกัน เมื่อเอาความชันมาคูณกันจะได้ผลลัพธ์เป็น -1 นั่นคือ $$L_2=-\frac{1}{m}x$$  คือเส้นตรงที่ตั้งฉากกับ $L_1$ (รูปที่ 14)

รูปที่ 14

กำหนดให้ M เป็น Transform matrix ที่ใช้คำนวณหา reflection vector $\overrightarrow{r}$ ในระบบ 2D space แล้ว จะได้ว่า

$$M\cdot \overrightarrow{a}=\overrightarrow{r}$$

พิจารณาเส้นตรง $L_1$, เมื่อ x =1 แล้ว y = m  นั่นคือ $\overrightarrow{b}=\left[\begin{array}{c}1\\ m\end{array}\right]$ จะต้องอยู่บนเส้นตรง $L_1$ และ reflection vector ของ $\overrightarrow{b}$ ก็ต้องเป็น $\overrightarrow{b}$ (นึกถึงการฉายไฟฉายใส่กระจกโดยที่แนวของไฟฉายตั้งฉากกับกระจก) ดังนั้น $$\begin{array}{rl}M\cdot \overrightarrow{b}& =\overrightarrow{b}\\ \text{(9.0)}& M\cdot \left[\begin{array}{c}1\\ m\end{array}\right]& =\left[\begin{array}{c}1\\ m\end{array}\right]\end{array}$$

พิจารณาเส้นตรง $L_2$, เมื่อ x = -m แล้ว  y = 1  นั้นคือ $\overrightarrow{c}=\left[\begin{array}{c}m\\ -1\end{array}\right]$ จะอยู่บนเส้นตรง $L_2$ ทำให้เราทราบต่อไปว่า ${\overrightarrow{r}}_c=\left[\begin{array}{c}m\\ -1\end{array}\right]$ คือ reflection vector ของ $\overrightarrow{c}$ (ดูรูป 15) 

รูปที่ 15

นั่นคือ $$\begin{array}{rl}M\cdot \overrightarrow{c}& ={\overrightarrow{r}}_c\\ \\ \text{(9.1)}& M\cdot \left[\begin{array}{c}-m\\ 1\end{array}\right]& =\left[\begin{array}{c}m\\ -1\end{array}\right]\end{array}$$

จาก (9.0) และ (9.1) นำไปสู่ข้อสรุป $$\begin{array}{}\text{(9.2)}& M\cdot \left[\begin{array}{cc}1& -m\\ m& 1\end{array}\right]=\left[\begin{array}{cc}1& m\\ m& -1\end{array}\right]\end{array}$$

แก้สมการ (9.2) เพื่อหา transform matrix M $$\begin{array}{rl}M\cdot \left[\begin{array}{cc}1& -m\\ m& 1\end{array}\right]& =\left[\begin{array}{cc}1& m\\ m& -1\end{array}\right]\\ \\ M\cdot \left[\begin{array}{cc}1& -m\\ m& 1\end{array}\right]\cdot {\left[\begin{array}{cc}1& -m\\ m& 1\end{array}\right]}^{-1}& =\left[\begin{array}{cc}1& m\\ m& -1\end{array}\right]\cdot {\left[\begin{array}{cc}1& -m\\ m& 1\end{array}\right]}^{-1}\\ \\ M& =\left[\begin{array}{cc}1& m\\ m& -1\end{array}\right]\cdot \frac{1}{1+m^2}\left[\begin{array}{cc}1& m\\ -m& 1\end{array}\right]\\ \\ M& =\frac{1}{1+m^2}\cdot \left[\begin{array}{cc}1& m\\ m& -1\end{array}\right]\cdot \left[\begin{array}{cc}1& m\\ -m& 1\end{array}\right]\\ \\ \text{(9.3)}& M& =\frac{1}{1+m^2}\cdot \left[\begin{array}{cc}1-m^2& 2m\\ 2m& m^2-1\end{array}\right]\end{array}$$

ประเด็นต่อเนื่องจาก (9.3) เมื่อ

1. เส้นตรง $L_1$ ขนานกับ x - axis ความชันของเส้นตรง (m) = 0, M = $\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$
2. เส้นตรง $L_1$ ทำมุม ${45}^{\circ }$ กับ x - axis ความชันของเส้นตรง (m) = 1, M = $\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]$
3. เส้นตรง $L_1$ ทำมุม ${90}^{\circ }$ กับ x - axis ความชันของเส้นตรง (m) = $\mathrm{\infty }$, M = $\left[\begin{array}{cc}-1& 0\\ 0& 1\end{array}\right]$

[Top]

---

เอกสารอ้างอิง

[1] https://en.wikipedia.org/wiki/Linearity

[2] https://en.wikipedia.org/wiki/Linear_equation

[3] https://www.khanacademy.org/math/algebra-home/alg-linear-eq-func

[4] https://en.wikipedia.org/wiki/Linear_function

[5] https://smarter-machine.blogspot.com/2020/12/basic-linear-algebra-vector.html

[6] https://en.wikipedia.org/wiki/Linear_map

[7] https://en.wikipedia.org/wiki/Function_(mathematics)

[8] https://en.wikipedia.org/wiki/Transformation_matrix

[9] https://mathworld.wolfram.com/AffineFunction.html

[10] https://en.wikipedia.org/wiki/Affine_transformation

[11] https://en.wikipedia.org/wiki/RGB_color_model

[12] https://en.wikipedia.org/wiki/YCbCr

[13] https://smarter-machine.blogspot.com/2020/06/perceptron-learning-algorithm.html