---
tags: summit2024
---
# 社群軌：AI 時代的資訊挑戰 Community Track1: Challenges of Disinformation in the Era of AI
:::info
Welcome to g0v summit 2024 collaboration notes!
Entry Point: https://g0v.hackmd.io/@summit2024/notes
Tap 「<i class="fa fa-angle-double-right"></i>」button on the top left to show agenda in mobile devices.
:::

:::success

:::success
Slido 線上提問連結 Online QA link：
https://app.sli.do/event/x9QRMMjJWjykuQVVkEqQLZ
議程投影片 presentation slides：
[Cofacts](https://drive.google.com/file/d/1-65HYOUY787OMYDJo1P2b3T5j7N0Uajo/view?usp=share_link)
[Cofact](https://drive.google.com/file/d/18rst2Yaecze0bCq9N0ILiGluZ7hLf2s-/view?usp=share_link)

:::

:::success
如果需要即時口譯，請參考行前通知中的 YouTube 連結
If you need live interpretation, please refer to YouTube link in your pre-event notice.
這份共筆裡也有更多的資料可以參考：[多語翻譯須知 Notice on Multi-lingual Interpretation ](https://g0v.hackmd.io/@summit2024/SkhfThZfR )
:::

Challenges of Disinformation in the Era of AI

HOST:Cofacts

## 社群軌介紹：
再不熟悉科技領域的人都可以使用生成式ＡＩ體驗各種資料累積下的預測與衝擊，更有許多人預測生成式ＡＩ將帶來更多的假資訊，而群眾的認知面臨更多的挑戰。在資訊環境中，公民科技社群Cofacts要與來自泰國的Cofact公民科技查核組織還有台灣資訊環境研究中心一起來討論假訊息的各種挑戰與如何透過協作與連結守護我們的資訊環境。

Even those who are not familiar with the field of technology can use generative AI to experience various content predictions and industrial impacts accumulated from data. Many people predict that generative AI will bring more misinformation and disinformation, posing greater challenges to public awareness. In the information environment, the civic tech community Cofacts, together with the Cofact civic tech fact checking organization from Thailand and IORG, will discuss the various challenges of information and how to safeguard our information environment through collaboration and connections.

## Agenda
9:30-10:00Jason Keynote
10:00-10:40Panel Ohyeon KWEON/Hal SEKI/Jason/Billion
10:40-11:10 Cofact intro/Cofacts intro/ IORG intro
11:10-11:40 panel with Cofacts/Cofact/ Chihhao

**10:40-11:10 7-9 mins 簡介**
Cofact
Cofacts
IORG
**11:10-11:40: Discussion**

### 語言
華語 English 混用，本場議程可能出現泰文。

## 主持人:劉致昕
Jason Liu
劉致昕，記者、作者、podcaster，著有《真相製造》、《烏克蘭的不可能戰爭》，聲音節目《不好意思請問一下》。

前《報導者》副總編輯、前美國民主協會亞太區資訊健全計畫顧問，曾為 g0v News 記者編輯。從一篇德國海盜黨的報導，與公民科技、g0v 開始對話，多次隨團參與公民科技、開放政府等國際會議，採訪台灣、西班牙、墨西哥、東南亞和歐美的許多公民科技計畫，在台南開的咖啡店也曾是大松場地，在國際組織裡試著與社群協力完成亞太區公民科技手冊。跟著「沒有人」的步伐，觀察與記錄公民科技與社群超過十年。

## 講者：Chihhao Yu
Co-director of IORG

台灣資訊環境研究中心 IORG 共同主持人
台灣零時政府 g0v 國際交流社群工作小組共同創辦人
港台日韓公民黑客社群網絡「面海松」共同主辦人

- IORG co-director
- g0v international community taskforce co-founder
- Facing the Ocean co-organizer

## 講者：Supinya Klangnarong, Thailand


Supinya Klangnarong: Cofact cofounder
Co-founder of COFACT Thailand, Fact-checking platform &amp; communities.

Supinya Klangnarong serves as co-founder of COFACT Thailand, a fact-checking platform, and Digital Thinkers Forum, a Bangkok-based think tank focusing on digital rights and literacy. With a rich background in media advocacy, she has been an Ashoka Fellow since 2004 and an Eisenhower Fellow in 2007.

Supinya has held key positions such as Commissioner of the National Broadcast and Telecommunication Commission (NBTC) in Thailand from 2011 to 2017. She's also an honorary member of the Ethics Committee of The National Press Council of Thailand and a policy board member of the Thailand Consumers Council (TCC).

---

## 講者：Billion Lee

Cofacts cofounder


Billion is Cofacts cofounder. She has been advocating for marriage equality and civic empowerment, dedicating herself to connecting different communities and providing media literacy courses to combat disinformation. She has previously visited PolitiFact in the United States for exchanges and connected contributors from different countries, to collaborate on clarifying information. She manages a community working on OSINT fact-checking skills and media literacy.

## 簡報連結

## 筆記 Notes

### [Cofacts Thailand](https://blog.cofact.org)

cofacts thailand 是模仿台灣的專案，目前做了五年，最近也才剛主辦 cheapfake & deepfake 的論壇
有拍一支影片讓大家認識我們，五年以來的沿革跟相關的發展

### Everyone is a Fact Checker 影片

{%youtube -KX44HWvlHM %}

- 每天網路上都有很多的假消息。我們需要有相關的事實查核的技術，尤其在資訊爆炸的年代
- cofact 進行闢謠工作，我們向台灣取經，透過台灣的協助，在疫情期間成立，成立初期就進行防疫的協作
- 2023 年的大選中也做了政治事實查核
- 我們有實績、有好的名聲，受到不少政治人物的信賴
- 我們也是一個社群。期望透過社群做事實查核，透過去中心化的方式，讓大家透過各自的努力跟技能，成為數位公民
- 我們也和地方村莊進行合作，驗證新聞的真偽、讓大家不要成為詐騙的受害者
- 三大任務：舉辦研討會、公眾宣傳工作、我們是透過網路驅動，目前有 50 個夥伴，並成立相關的網絡，在社群網路有很多合作
- （接下來是大家對於社群的評價、跟闢謠的舉例）

- 讓大家能更進一步正確了解泰國國內的穆斯林社群，透過國際連結、有用的資訊教育大眾觸及更大的社群。

- 過去五年以來，幫助完成許多第一線的工作。透過合作，讓大家彼此交流，讓同儕之間有更多合作的契機，以滾雪球的方式成長
- 也透過很多歌舞表演來做大眾教育，宣傳 cofacts 的理念

我們去年是詐騙受害者最多的國家，所以很需要打詐。希望今年能有相關的改善。

### IORG Chihao

我在 2014 年加入 g0v，目前在 iorg 服務，這是台灣的研究機構，主要研究台灣的資訊環境，例如數據驅動研究資訊是如何在華語環境散播，也與學術機構（腦科學一起研究，暸解假訊息的問題、假訊息被操弄的問題
與日本跟南韓有教育方面的合作
- 假訊息的傳遞觀察
-

2019 年建立了兩個資料庫：

* IORG 資訊環境資料庫
* IORG 行為者集團目錄
* 哪一些帳號跟哪些集團存在關聯

資料庫蒐集新聞、網路、社群媒體等資料，除了搜集大量資料來進行資料分析以外，也會在華語資訊環境中，用手動的方式收集。例如將資訊來源分組：哪些來自旺旺集團、哪些來自中國、哪些來自台灣、哪些社群媒體帳號是隸屬哪個政黨，暸解資訊環境中主要的活動者，他們在操弄、塑造什麼輿論，企圖影響民主的進展

#### [每次選舉投票會出現的作票傳言](https://iorg.tw/da/67)

我們的資料集讓我們看到：例如一月選舉之後出現做票的謠言，我們看哪些平台最常出現。例如抖音選前兩個禮拜就出現，也可以看到是哪些人引用了談話性節目的片段，塑造出他們好像也是來自於台灣的帳號

#### 2024 選前中共動向

[相關報告](https://iorg.tw/da/57)
用臉部辨識的功能做了中共抖音網軍最常引用的談話性節目的片段

#### 跨平台的資訊傳播
[相關報告](https://iorg.tw/da/71)
可以看到跨平台的資訊散播，台灣的節目被中國官媒、抖音引用
例如這個帳號「兩顆茶葉蛋」，上傳的內容跟抖音相比觸及人數為 1.8 倍

#### 基於資料理解資訊環境
透過數據更能知道發生什麼
找到政黨支持者偏好的媒體
+ 民進黨三立(親美) 國民黨旺中(親中) 民眾黨TVBS

youtube 上的世界觀自相矛盾，讓擁有不同政治理念的人無法彼此暸解，無法有建設性的對話

#### 多元、開放、社群的「台灣模式」
+ 建構資訊環境學
+ 事實
+ 華語資訊科技研發
+ 數位公民素養教育
+ 資訊判讀
+ 數位素養
+ 良性對話：充分知情 情緒覺察
+ 強化民主社群的韌性

### More information / services
- Cofacts 真的假的
- 0archive 零時檔案局 https://0archive.tw/
- tvlogger 鄉民看電視 https://g0v.hackmd.io/@SA7CD7VRSp6Fcqw9CaElcQ/HJJH5046V/%2FygAUri2uToGbyvM-Elxu7w?type=book

### Cofacts Billion
已經8年了

#### 創立動機
- 記者詢問創立是否是因為中國與台灣的資訊戰
- 2016 年為了推動資訊的平等而成立，例如保護跨性別的族群，像今年的大選也有看到跨性別被抹黑的訊息
- freedom speach
- 推動平等、人權
- 事實查核是大家的義務，不只是新聞記者的責任

#### 範例：美國在台研發生物武器(?)

說因為台灣人和中國人在DNA 基因上相似，所以美國想透過台灣人開發生物武器 which is 無稽之談

#### What does Cofact do?
- 提供創新、資訊打造民主的韌性，打造資訊的透明

#### The article trend of Cofacts website

* 使用開放資料視覺化呈現相關議題
* 讓相關機構、研究者可以直接拿 csv 進行其他相關研究

#### Chatbot 邏輯

#### Open analytics report

#### Case studies

AI 產生的字幕，搭配川普、習進平、陳水扁等等的假畫面
或是裁掉原影片中「AI 生成」的標註
甚至聲音也是 AI fake
很多這些假訊息談論的議題是民生議題（缺電、缺水）、或是政治事件，讓人民懷疑政治人物不值得信任

#### Good Experiences

讓事實查核成為可以輕易作到的事情
- 提供公開的資料、技術
- AI 對事件進行分類
+ 蒐集回饋
+ Line 通知
+ RSS feed
+ 數據和分析
+ 遊戲化
+ 圖像查核
+ 科技支援
+

+ Google 提供技術諮詢與其他資源

### Q&A

#### 在GAI這麼熱門的背景下，對 GAI 有什麼樣的想法？對假消息、對你們的國家有什麼影響？

- Billion Lee
- AI 從去年開始就是熱門的詞彙，以此為主題的研討會總是吸引非常的多的目光或是贊助
- 信任的問題，開放跟透明很重要，只要所有的資訊和資源都是可以獲得的，你就不會盲信

- Supinya Klangnarong
- 生成式 AI 在泰國也引起很多興奮和討論，也有很多道德上的疑慮，就 cofacts 而言，我們特別會講到如何是時散播正確的資訊
- 我們不可能回到沒有網路的資訊，要達到平衡，就要實現轉型，要實現數位健康、數位意識、數位識讀（媒體識讀），這是我們想給大家的相關能力，這是這個世代最重要的
- 打詐的 APP 有不同的名字，我們(泰國)是亞洲被詐騙的第一名，也有很多 cheap fakes 引誘大家點連結、騙錢（例如你會接到自稱是政府的電話要你轉帳）
- 在因應方面是否要有法規？人們現在還在討論針對 AI 是否要有法規限制
- 作為公民，要保護自己、保護社群，但同時也意識到，就是會有人相信，因為他們其實跟家人很少聯絡，當家人求救，你會想都不想就轉帳，或是對方給的時間很少，你必須當下就做決定
- 我們不可能奪走人們的手機，所以更需要建立並完善社群，提供社群的支持，在社群內強化他們的數位識讀能力，才能為 AI 時代做好準備
- 提升數位衛生，來打擊更多的假訊息

- Chiahao
- Data first organization 我們是以資料優先的團體，AI 會有三種不同的影響：
- 數量：我們會收集很多資料，AI 提高了（假訊息生產者的）生產力，尤其是影片。
- 多元性：不同平台
- 品質：資料清理及特徵萃取
- 作法：我們不是去偵測哪些資訊是由 AI 產生，而是觀察文章在網路中的傳播或是相似程度

民主與社群的作為

#### 針對 cofacts，各位怎樣去因應開放社群這樣的挑戰？包括 line 的行為人想進入我們的社群，對事實查核工作可能會有負面的影響，有相關的社群政策或如何因應嗎？

- 我們會去偵測惡意的行為
- 人工檢查，大家可以給貢獻訊息倒讚，如果很多人反應算法就會讓那則貢獻訊息能見度變低。
- 極度惡劣可以刪除他的內容
- 他以為他有發出去，但只有他看得到(honey pot)

#### 我們也都相信 cofacts 的協作精神，但如果有人挑戰我們的信念時，該怎麼做？

- Chihao
- 事實查核的限制有關，每個人都有不同能力跟可及範圍
- 事實查核顧名思義是在查核事實，如果面對的是「個人意見」，跟事實無關，或許我們可以更進一步半踏入意見的圈子，因為意見對公共事務的討論或多或少有價值，也會對公共政策產生影響。
- 重點是，意見要奠基在正確的邏輯、正確的證據上，當我們在審核意見時，會根據意見的基礎來審核。但意見比起事實來說，真的是比較難。

- Supinya Klangnarong
- 如果是針對政府、國家，我們不會針對意見做事實查核，我們會去鼓勵大家的討論會更有建設性，假消息我們一定會去因應，因為事實與否比較容易；就意見來講，要去判斷仇恨言論，但就比較難
- 我們會跟大家討論如何維護言論自由，又能維持討論的建設性
- 我相信台灣也很重視新聞自由，泰國在新聞自由排名 87 名，我知道你們也面對很多仇恨言論的威脅，希望能限制相關的仇恨言論，但大家在發表自己的意見時，我們也希望尊重他人
- 當然可以直接說別人是假消息。但要做出這種指控時，也必須要有證據，就得花很多心力
- 希望在泰國也可以建立這樣的模式打擊假訊息，讓大家討論面臨資訊轟炸時，大家太累了，看到這麼多假消息、這麼多辯論，需要重新建立正向的循環，讓民眾願意打擊假訊息、維護言論自由

你剛剛說的的確是，事實查核者面臨的挑戰，需要很多心力跟精力去暸解當地的脈絡。

#### 第二個問題是媒體素養的急迫性跟必要性，很多人需要暸解不同平台的運作方式，讓他們能正確地獲取資訊。在台灣，對於媒體素養我們有這樣的急迫性，你們有什麼建議？

- Billion Lee
- 我超級正向，只要開始就不晚。
只要我們能夠暸解何謂認知戰、何謂假消息，只要大家對此有所認識跟認知，就知道有些資訊是用來欺騙人民的，是可疑資訊，背後隱藏了很多細節，只要愈來愈多人暸解資訊有可能是假的，就能夠解決

- Chihao
- 我一直很悲觀跟焦慮。
- 當我們的夥伴去不同社群、學校中跟老師學生討論時，每個人的看法不同、優先順序不同，這是一個很重大的工作，不是一兩個人努力就好，而是需要整個社群的努力
- 我 2015 年回台時，台灣公民社群的參與度很低，我非常擔心。我知道無論如何都需要更多人參與政治、參與公共事務。如果要有更多人加入參與政治，也希望他們能在知情或有一定判斷能力的情況下參與政治，這更困難，卻是達成民主的重要條件
- 我因此很焦躁。因為民主很難預測，民主參與你不知道誰會來，希望大家都能來

- js
- 我同意，這也是為什麼身為記者，我們要不斷寫更好的報導、寫書（js 的著作[《真相製造》](https://www.books.com.tw/products/0010894478))

如果大家有同樣的看法，歡迎加入我們的社群一起分享我們的焦慮

#### 如何使用AI來增進查核技術？

- Billion Lee
- 事實查核者跟記者要能夠跟 AI 合作，AI 需要很多的資料，AI 跟人一樣也會有偏見
- 人類是幫助 AI 打擊假訊息最大的一環，AI 能做的就是在足夠的訓練跟資料以後，協助人類進行初步篩選
- 有時候我們將事實查核者當作事實查核機器人的訓練者，因為訓練需要大量資料，就像你如何使用 siri、google 助理一樣，所有軟體的背後都需要人的支援，不是按個按鈕、AI 啟動，所有問題就解決了
- 民主不容易，這需要時間，需要討論，需要突破同溫層，我們不會覺得有了 AI 機器人就能打破所有的困境，需要有平台讓我們進行充分的溝通，AI 機器人需要足夠的訓練，人也需要持續跟家人、親戚朋友來討論，這也是民主非常重要的部分。

#### 你們也會被貼上政黨標籤嗎？在泰國選舉期間會受到攻擊嗎？

- Supinya Klangnarong
- 每個人都有它政黨的傾向，有些人會看我們的工作、看我們的政黨傾向，但我們跟一般的媒體不同，我們主要的工作是事實查核，不會攻擊其他人，因為這非常浪費精力
- 去年泰國選舉，我們盡量做平衡報導。因為泰國政治的動盪、軍政府的影響，對我們的工作不同意。很多人會覺得，應該對反對黨有比較多的同情，應該更支持反對黨，因為他們也面臨很多假訊息跟對手的攻擊，而我們的工作會希望說，希望維持外界對我們的信任，也盡量用中立的角度查核事實。這不容易，我們也盡量來努力。
- 選舉期間會不會遭受攻擊？
- 或許之後可以討論，但我想請教各位，在選舉期間世界各地的進步黨、民主黨派都會受到假訊息的問題，像是去年泰國選舉有很多假消息的攻擊，特別是針對反對黨，有個黨代表年輕人，就受到網路上很多假訊息的攻擊，很多人擔心說用假訊息攻擊這些政黨...
- cofacts 泰國希望能透過事實查核打擊假訊息，我們會用一個標準來篩選——當然，泰國是泰國——這次選舉有個政黨大勝，但他們無法組成政府，這是泰國面臨的、不願面對的真相，我們要繼續考慮泰國的政治未來要怎麼發展

#### 傳統電視是否也會散播假消息
- Chihao
- 根據我們的調查，電視還是台灣民眾獲得知識與作政治決策的重要來源

- 還有 youtube。這些電視台在 youtube 上也有頻道。我們很多資料是在這裡收集。
- 一開始 g0v 的 Ronny 來做 tv logger，來記錄 youtube 上的新聞資訊(新聞媒體的24小時新聞輪播)，可以看到 youtube 上新聞台的播放內容，並請民眾來下標籤（[鄉民看電視](https://tvlogger.g0v.ronny.tw/)）
- 從 2019 年開始看媒體的報導，需要很多社群的努力才能確認

- 在 NCC 也一直在監督廣播節目跟電視台，我們的確要去分析很多電視台的資料，資料不只是新聞報導也好，還有政論節目，我們都會續查核，這些節目有沒有散播假訊息，也將這些內容公佈在網站上

#### cofact telegram 聊天機器人？
- Billion Lee
- 沒有，因為老年人用得不多。但我們有開源，還有相關的資料庫[資料1](https://github.com/cofacts/opendata) [資料2](https://github.com/cofacts/rumors-api/)，有想開發的可以自己開發

#### 回應一下一個問題「有些媒體認為Cofacts行為較接近某種政黨傾向，請問cofacts如何消除這類疑慮？」
- Billion Lee
- cofacts 的核心成員不是來自任何政黨。而無論你來自什麼政黨，都可以加入，你也可以收到來自其他政黨參與者的回饋。我們會強調自己是來自「人類」的平台
- 如何消除疑慮？就是提供、分享每週的會議筆記給大家，這些筆記將我們的工作流程公開給大家看。如果你看到我們有支持哪個政黨，可以申訴，讓我們來處理。

#### cofacts 台灣跟泰國，政府可以怎麼跟你們合作？

- Supinya Klangnarong
- 事實上我們特別幫忙政府提供闢謠跟打詐的基金會，我們是創始人。過去有實績，所以政府基本上很支持我們的平台，我們現在也常跟政府合作，因應很多國際關係的合作。因為假訊息常常會造成國際誤會，如泰柬關係。我們會需要確認影響國際關係的影片，會跟外交部進行溝通，一起來確認影片的真偽。
- 我們盡量中立保持自己的超然地位。

- Billion Lee
- 我們的合作對象也有法務部、調查局，因為他們也會進行打詐跟事實查核工作。也會想向大眾提供闢謠資訊，我們也有跟衛福部合作。衛福部、法務部對聊天機器人都有依賴，即便行政院有闢謠辦公室，但政府資訊太過正式，很多人民對於非政府的資訊較有信任感。

如何提供不同機制讓不同與會者、社群接觸你們？

因為大家的相關工作都很多，我們的問題也很多，但接下來就是持續跟大家保持聯繫，後續繼續交流

> 建議底部都留至少多一行以上讓別人方便打共筆喔

> English notes are welcomed too

<style>
/* 調大旁註文字的字元大小 */
rt{
font-size: 10pt;
}
</style>