互聯網操縱

互聯網操縱（英語：Internet manipulation），是商業、社交或政治領域中，數字技術被廣泛應用於實現特定目的，例如社交媒體演算法和自動腳本的使用^[1]。操縱公眾輿論、分化公民^[2] 、壓制持不同政見者、傷害企業或政治對手以及提高個人或品牌聲譽等目的，常常使用各種數字技術，如社交媒體演算法和自動腳本。報導指出，黑客、受僱的專業人士和普通公民都使用軟體進行互聯網操縱。這種操縱通常使用網路機器人，如社交機器人、投票機器人（英语：Votebot）和點擊機器人等^[3]。

認知黑客是指旨在透過網絡攻擊來改變用戶的認知以及相應行為的活動^[4]^[5]^[6]。

互聯網操縱有時也用於描述選擇性互聯網審查^[7]^[8]或違反網絡中立性的行為^[9]。

問題

行為操縱：假新聞、虛假訊息和人工智慧可以在意識之外暗中影響行為。這種影響方式與影響認知信念的方法不同，因為它們能夠悄悄地運作，難以被察覺。這種暗中的操作可以改變人們的看法、態度和行為，而他們可能不會意識到自己受到了外部因素的影響^[10]。

高激動情緒的病毒性傳播：已經發現，含有高度喚醒情緒的內容（如敬畏、憤怒、焦慮或隱藏的性意義）更容易在社交媒體上傳播。這樣的內容往往包含令人驚訝、有趣或有用的元素，這些元素會吸引人們的注意^[11]。

簡單勝於複雜：提供簡單解釋並將其永久化的做法可能被用於在線操縱複雜情況。與復雜、細緻入微的解釋和訊息相比，這種簡化的訊息通常更容易讓人相信，並且在充分調查之前就開始傳播，具有更高的傳播力^[12]。

同儕影響：先前對網絡內容（英语：Web content）的集體評級會影響一個人對其的看法。根據2015年的研究，網絡環境中一件藝術品的感知美會因為外部影響而發生變化，因為聯盟評級受到意見和可信度的操縱。研究要求參與實驗的人評估一件藝術品^[13] 。此外，在Reddit上，人們發現最初獲得一些反對票或贊成票的內容通常會繼續獲得更多的負面票數，反之亦然。Reddit的用戶和管理員將這種現象稱為「潮流/滾雪球投票」^[14]。

同溫層：迴聲室效應和過濾氣泡可能由網站管理員或版主以排斥不同觀點的方式創造，也可以通過建立特定規則或由網路社群或互聯網「部落」的典型成員觀點來形成。

確認偏誤和操控的盛行程度：假新聞不需要深入閱讀，僅通過標題和聲音片段（英语：Sound bite）就能對數量和情感產生影響。^{[來源請求]}通過有選擇性地放大、刺激或模擬特定觀點、觀點、問題以及人們明顯的流行度^[15]。

資訊時效性和無法更正性：澄清、陰謀破滅和假新聞曝光通常在大部分受眾尚未意識到已造成損害和/或相關錯誤信息時才出現^[16]^{[需要較佳来源]}。

心理定位：社交媒體活動和其他數據可用於分析人的性格，並預測他們的行為和偏好^[17]^[18]。邁克爾·科辛斯基（英语：Michal Kosinski）博士開發了這樣一個程序^[17]。這可以用於定制適合個人心理的媒體或信息，例如通過Facebook。據報導，這在唐納德·特朗普的勝選中可能發揮了重要作用^[17]^[19]。

參見

參考資料

^ Woolley, Samuel; Howard, Philip N. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford University Press. 2019. ISBN 978-0190931414.
^ Marchal, Nahema; Neudert, Lisa-Maria. Polarisation and the use of technology in political campaigns and communication (PDF). European Parliamentary Research Service. 2019 [2023-05-31]. （原始内容存档 (PDF)于2023-03-28）.
^ Gorwa, Robert; Guilbeault, Douglas. Unpacking the Social Media Bot: A Typology to Guide Research and Policy: Unpacking the Social Media Bot. Policy & Internet. 2018-08-10. S2CID 51877148. arXiv:1801.06863 . doi:10.1002/poi3.184 （英语）.
^ Cognitive Hacking (PDF). 2003 [4 February 2017]. （原始内容 (PDF)存档于18 February 2018）.
^ Thompson, Paul. Cognitive hacking and intelligence and security informatics (PDF). Enabling Technologies for Simulation Science VIII 5423: 142–151. 2004 [4 February 2017]. Bibcode:2004SPIE.5423..142T. S2CID 18907972. doi:10.1117/12.554454. （原始内容 (PDF)存档于5 February 2017）.
^ Cognitive Hacking: A Battle for the Mind (PDF). [4 February 2017]. （原始内容 (PDF)存档于18 February 2018）.
^ Castells, Manuel. Networks of Outrage and Hope: Social Movements in the Internet Age. John Wiley & Sons. 2015-06-04 [4 February 2017]. ISBN 9780745695792 （英语）.
^ Condemnation over Egypt's internet shutdown. Financial Times. [4 February 2017]. （原始内容存档于2023-06-04）.
^ Net neutrality wins in Europe - a victory for the internet as we know it. ZME Science. 31 August 2016 [4 February 2017]. （原始内容存档于2023-05-31）.
^ Bastick, Zach. Would you notice if fake news changed your behavior? An experiment on the unconscious effects of disinformation. Computers in Human Behavior. 2021, 116 (106633): 106633. doi:10.1016/j.chb.2020.106633 .
^ Berger, Jonah; Milkman, Katherine L. What Makes Online Content Viral? (PDF). Journal of Marketing Research. April 2012, 49 (2): 192–205 [2023-05-31]. S2CID 29504532. doi:10.1509/jmr.10.0353. （原始内容存档 (PDF)于2023-06-02）.
^ Hoff, Carsten Klotz von. Manipulation 2.0 – Meinungsmache via Facebook. Der Freitag. 6 April 2012 [4 February 2017]. （原始内容存档于2020-11-01）（德语）.
^ Golda, Christopher P. Informational Social Influence and the Internet: Manipulation in a Consumptive Society. 2015 [4 February 2017] （英语）.
^ Moderators: New subreddit feature - comment scores may be hidden for a defined time period after posting • /r/modnews. reddit. 29 April 2013 [4 February 2017]. （原始内容存档于2023-06-19）（英语）.
^ 引用错误：没有为名为guard1的参考文献提供内容
^ Die Scheinwelt von Facebook & Co. (German-language documentary by the ZDF). [4 February 2017]. （原始内容存档于2018-11-07）（德语）.
^ ^17.0 ^17.1 ^17.2 Ich habe nur gezeigt, dass es die Bombe gibt. Das Magazin. 3 December 2016 [30 April 2017]. （原始内容存档于2016-12-03）.
^ Beuth, Patrick. US-Wahl: Big Data allein entscheidet keine Wahl. Die Zeit. 6 December 2016 [30 April 2017]. （原始内容存档于2023-05-31）.
^ The Data That Turned the World Upside Down. Motherboard. 2017-01-28 [30 April 2017]. （原始内容存档于2017-06-21）（美国英语）.

[1] Woolley, Samuel; Howard, Philip N. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media. Oxford University Press. 2019. ISBN 978-0190931414.

[2] Marchal, Nahema; Neudert, Lisa-Maria. Polarisation and the use of technology in political campaigns and communication (PDF). European Parliamentary Research Service. 2019 [2023-05-31]. （原始内容存档 (PDF)于2023-03-28）.

[3] Gorwa, Robert; Guilbeault, Douglas. Unpacking the Social Media Bot: A Typology to Guide Research and Policy: Unpacking the Social Media Bot. Policy & Internet. 2018-08-10. S2CID 51877148. arXiv:1801.06863 . doi:10.1002/poi3.184 （英语）.

[4] Cognitive Hacking (PDF). 2003 [4 February 2017]. （原始内容 (PDF)存档于18 February 2018）.

[5] Thompson, Paul. Cognitive hacking and intelligence and security informatics (PDF). Enabling Technologies for Simulation Science VIII 5423: 142–151. 2004 [4 February 2017]. Bibcode:2004SPIE.5423..142T. S2CID 18907972. doi:10.1117/12.554454. （原始内容 (PDF)存档于5 February 2017）.

[6] Cognitive Hacking: A Battle for the Mind (PDF). [4 February 2017]. （原始内容 (PDF)存档于18 February 2018）.

[7] Castells, Manuel. Networks of Outrage and Hope: Social Movements in the Internet Age. John Wiley & Sons. 2015-06-04 [4 February 2017]. ISBN 9780745695792 （英语）.

[8] Condemnation over Egypt's internet shutdown. Financial Times. [4 February 2017]. （原始内容存档于2023-06-04）.

[9] Net neutrality wins in Europe - a victory for the internet as we know it. ZME Science. 31 August 2016 [4 February 2017]. （原始内容存档于2023-05-31）.

[10] Bastick, Zach. Would you notice if fake news changed your behavior? An experiment on the unconscious effects of disinformation. Computers in Human Behavior. 2021, 116 (106633): 106633. doi:10.1016/j.chb.2020.106633 .

[11] Berger, Jonah; Milkman, Katherine L. What Makes Online Content Viral? (PDF). Journal of Marketing Research. April 2012, 49 (2): 192–205 [2023-05-31]. S2CID 29504532. doi:10.1509/jmr.10.0353. （原始内容存档 (PDF)于2023-06-02）.

[12] Hoff, Carsten Klotz von. Manipulation 2.0 – Meinungsmache via Facebook. Der Freitag. 6 April 2012 [4 February 2017]. （原始内容存档于2020-11-01）（德语）.

[13] Golda, Christopher P. Informational Social Influence and the Internet: Manipulation in a Consumptive Society. 2015 [4 February 2017] （英语）.

[reddit1-14] Moderators: New subreddit feature - comment scores may be hidden for a defined time period after posting • /r/modnews. reddit. 29 April 2013 [4 February 2017]. （原始内容存档于2023-06-19）（英语）.

[guard1-15] 引用错误：没有为名为guard1的参考文献提供内容

[16] Die Scheinwelt von Facebook & Co. (German-language documentary by the ZDF). [4 February 2017]. （原始内容存档于2018-11-07）（德语）.

[mag1-17] 17.0 ^17.1 ^17.2 Ich habe nur gezeigt, dass es die Bombe gibt. Das Magazin. 3 December 2016 [30 April 2017]. （原始内容存档于2016-12-03）.

[18] Beuth, Patrick. US-Wahl: Big Data allein entscheidet keine Wahl. Die Zeit. 6 December 2016 [30 April 2017]. （原始内容存档于2023-05-31）.

[19] The Data That Turned the World Upside Down. Motherboard. 2017-01-28 [30 April 2017]. （原始内容存档于2017-06-21）（美国英语）.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]

[18]

[19]