導覽


03. 資訊理論

1. 什麼是資訊(Information)?

(1) 我們如何得知在一本書中有多少的資訊?
(2) 書中的頁數和字數是重要的因素嗎?
(3) 一本書會比另外一本有更多的資訊嗎?
(4) 一本非常無聊或是特別有趣的書,哪個包含的資訊量較多?
(5) 一本400頁但都是廢話的書,會比一本電話簿含有更多的資訊嗎?

2. 藉由某段訊息(或者某本書)「讓人驚訝的程度」來測量資訊

例如:
一個總是走路到學校的朋友告訴你:「我今天走路到學校」,你一點都不會感到驚訝,因為你早就知道了。
但是如果你的朋友告訴你:「我今天坐著直升機到學校」。這樣的訊息會讓你很驚訝,也因此會告訴我們非常多的資訊。

3. 如何測量某段訊息的「驚訝值」?

看看要猜到那個資訊會有多困難。
如果你的朋友告訴你:「猜猜我今天是如何到學校的?」而答案是他走路到學校,這個時候你會有比較高的機會在第一次就猜到正確答案。
但如果答案是坐直升機,甚至太空船,那麼有可能得猜好幾次才能猜到答案。

某段訊息所包含的資訊量,是藉由是否容易被猜到來衡量。

4. 猜數字遊戲(請一位同學擔任關主,對於同學的提問,只能回答「是」或「不是」)

(1) 猜1到100之間的數字
(2) 猜1到1000之間的數字
(3) 猜1到100萬之間的數字
(4) 任何一個整數
(5) 有特定模式的一串六個數字(回答時必須從第一個到最後一個依序回答),例如2、4、6、8、10、12

你用了什麼猜測的策略?

5. 珠璣妙算(MasterMind)遊戲 http://www.archimedes-lab.org/mastermind.html

(1) 有6個顏色的球,依你的猜測依序點擊。
(2) 按下「Delete」可重新輸入猜測、按下「Check」後檢查你的答案。
(3) 顏色、位置皆正確,右方顯示一顆「黑球」;顏色正確但位置錯誤,則顯示一顆「白球」。
(4) 反覆猜測,在十次猜測機會中得到四顆球的正確顏色與位置。
(5) 注意同樣顏色的球可以重覆出現。

6. 決策樹

先前提到的猜數字遊戲,假設題目訂為0到7之間的某個數字,若我們想嘗試用最少的猜測次數來猜到答案,可以使用畫圖的方式來展現猜測的策略。

猜測的訣竅是每次都將猜測的範圍縮小一半,所以第一次詢問出題者,就問他題目有沒有大於或等於4?

出題者若回答「否」,那代表題目可能的範圍只剩下0、1、2或3這四個數字,範圍馬上縮小了。

依此類推,我們把詢問的過程畫成下面的樹狀圖:

(1) 要猜到數字5需要做哪些決定(是/不是)?
(2) 你需要多少決定(是/不是)才能猜測出任何數字?
(3) 在樹最下方的數字下方,寫下那些數字的二進位表示法。
(4) 仔細觀察決策樹,如果「不是」=0、「是」=1,你發現了什麼?

7. 作業

(1) 如果要猜0到15之間的數字,決策樹該怎麼畫?
(2) 要猜測一個人的年齡,決策樹該怎麼畫?

8. 猜測的方法能被應用來建造一個預測使用者輸入的電腦介面。這對於打字有困難的身心障礙人士相當有幫助。電腦可以建議他們接下來可能要輸入什麼,而他們只需要選擇他們想要的字即可。這樣的系統也以不同的形式被應用在手機打字的介面上。