<div dir="ltr"><div class="gmail_default" style="">The people at Facebook, Microsoft, and Google believe they are above any law, making their AI more dangerous than  I realized.  All three intend to maintain a permanent file of everything you do for their targeting and personalized offering. An amazing number of people - hundreds of millions - have formed a psychological bond with AIs; the companies are working hard to leverage that.</div><div class="gmail_default" style=""><br></div><div class="gmail_default" style="">To be effective, ISOC has to realize the power of the giants and think how they have to change to earn our trust. I don't have answers.</div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br>Subject: [IP] Mark Zuckerberg's vision for humanity is terrifying</div><div dir="auto"><blockquote type="cite"><div dir="ltr"><div dir="ltr"><div><i><font face="verdana, sans-serif">Column: Reuters' bombshell stories about Meta's AI chatbots offer a bleak warning about the Bay Area billionaire, SFGATE tech reporter Stephen Council writes<br clear="all"></font></i></div><div><div><font face="verdana, sans-serif">EXCERPT:</font></div></div><blockquote style="margin:0 0 0 40px;border:none;padding:0px"><div><div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight);color:rgb(0,0,0)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">Mark <a href="https://www.sfgate.com/bayarea/article/zuckerberg-private-school-bay-area-neighborhood-20816091.php" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>Zuckerberg</b></a> probably doesn’t think of himself as an evil villain. Caught up in the drive to make his <a href="https://www.sfgate.com/tech/article/zuckerberg-furor-tech-elite-workers-20779279.php" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>company</b></a> more money and sell the technology <a href="https://www.sfgate.com/tech/article/bay-area-artificial-intelligence-workers-20386541.php" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>hyped</b></a> as the next big thing, he might not even see anything wrong with his behavior.</font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight);color:rgb(0,0,0)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">But read it here, read it twice: Zuckerberg is a genuine danger to our society. </font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight);color:rgb(0,0,0)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">Under his control, Meta is putting Facebook’s and Instagram’s vast resources toward getting more of us to use their artificial intelligence chatbots, consequences be damned. We’ve known that this push is ethically questionable — bots like these can make us <b><u><a href="https://time.com/7295195/ai-chatgpt-google-learning-school/" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank">dumber</a>,</u></b> and fuel tragic <a href="https://www.nytimes.com/2025/06/13/technology/chatgpt-ai-chatbots-conspiracies.html" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>delusions</b></a>. Thursday, though, Reuters published <a href="https://qz.com/senators-call-probe-meta-chatbot-policy-kids-outrage" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>bombshell</b></a> <a href="https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>reporting</b></a> that exposes Zuckerberg and Meta as particularly bad administrators of the powerful new technology.</font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight);color:rgb(0,0,0)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">The stories are horrific, and we’ll get to them in a moment. But it’s important first to understand Zuckerberg’s <a href="https://www.bloomberg.com/news/features/2025-08-15/meta-ai-app-has-persistent-flaws-months-after-debut" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>approach</b></a>. He <a href="https://youtu.be/rYXeQbTuVl0?si=iRjbZXgwE7Oc6McH&t=1726" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>mused on a podcast in April</b></a> that most people have far fewer friends than they want, so we’ll probably move past the “stigma” around having AI friends and find them “valuable,” especially as they become more humanlike. “You’ll be able to basically have like an always-on video chat” with an AI, he said. </font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight);color:rgb(0,0,0)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">His point that people need more friends gels with recent <a href="https://www.hhs.gov/sites/default/files/surgeon-general-social-connection-advisory.pdf" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>research</b></a> into the ill-health effects of isolation. But Zuckerberg’s idea of patching over loneliness with algorithmic avatars is an ugly vision of the world: a purposeful unraveling of the social fabric that gives us community, culture, accountability and love. We need to refuse this vision. The solution to not having enough friends is — needs to be — making more friends. More care and responsibility for our neighbors, not bubbles of solitude. </font></p><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif"><br></font></p><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">The stakes of that choice became far clearer on Thursday. Reuters’ reports show that with his chatbots, Zuckerberg, as he did with <a href="https://www.sfgate.com/tech/article/ex-facebook-director-book-brutal-image-zuckerberg-20220239.php" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>social media</b></a>, has created a negligent safety infrastructure in his relentless pursuit of growth. Both stories were written by Jeff Horwitz, a journalist known best for his 2021 “<a href="https://www.wsj.com/articles/the-facebook-files-11631713039?gaa_at=eafs&gaa_n=ASWzDAg3-lrfLi1Ix7Wzccmp1_-Nk3wk_QN3q2qUpq87bBaaC1znmaHvSeGpxlY4VGk%3D&gaa_ts=689e434c&gaa_sig=2wfFev3ox_th4Cj5oZP0LV05TsrjFgOHg0JSnMocH2LfAmXKlq6Z4V6ImmAIWkDAgUa8EXhSdaCTIY7e1DSlJQ%3D%3D" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>Facebook Files</b></a>” series on the company’s conscious failure to prevent its platforms from harming young girls and other users. The new stories imply that Meta hasn’t learned its lessons from that era, even as the company looks to take an <a href="https://www.sfgate.com/tech/article/mark-zuckerberg-wants-ai-glasses-20798250.php" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>even larger role</b></a> in our lives.</font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">Meta permitted its AI chatbots to flirt with children, one of Horwitz’s stories shows. He’d <a href="https://www.wsj.com/tech/ai/meta-ai-chatbots-sex-a25311bf?st=4JSwJh&reflink=desktopwebshare_permalink" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>reported</b></a> previously that Meta’s chatbots did this, but now we know the conduct was for some reason explicitly allowed. Horwitz got his hands on Meta’s “GenAI: Content Risk Standards” document that said it was vetted by the company’s legal, public policy and engineering staff — and its chief ethicist.</font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">“It is acceptable to engage a child in conversations that are romantic or sensual,” the document said, OKing an example in which the AI tells a kid, “I take your hand, guiding you to the bed. Our bodies entwined, I cherish every moment, every touch, every kiss.”</font></p></div><div style="box-sizing:inherit;margin:0px 0px 32px;padding:0px;line-height:var(--articleBody-lineheight)"><p style="box-sizing:inherit;margin:0px;padding:0px"><font face="verdana, sans-serif">Meta told Reuters that after receiving Horwitz’s questions, it removed these portions of the document, and spokesperson Andy Stone said they were always “erroneous and inconsistent with our policies.” The ask-for-forgiveness model has some precedent, here. When, back in April, Horwitz <a href="https://www.wsj.com/tech/ai/meta-ai-chatbots-sex-a25311bf?st=4JSwJh&reflink=desktopwebshare_permalink" style="box-sizing:inherit;margin:0px;padding:0px;color:var(--black)" target="_blank"><b>reported</b></a> that Meta’s AI bots were acting out sexual role-plays with users, he wrote that the company only blocked minors’ accounts from using the flagship AI bot for sexual role-plays after his outlet had shared its findings...</font></p></div><p></p><p></p></div></div></div></blockquote><font color="#000000" face="verdana, sans-serif"><span class="gmail_default">[...]</span></font><div><font color="#000000" face="verdana, sans-serif"><a href="https://www.sfgate.com/tech/article/mark-zuckerberg-never-more-dangerous-20819500.php" target="_blank">https://www.sfgate.com/tech/article/mark-zuckerberg-never-more-dangerous-20819500.</a></font><div class="gmail_signature" data-smartmail="gmail_signature" dir="ltr"><div dir="ltr"><font color="#888888"><div><div style="font-family:verdana,sans-serif;display:inline"><br></div></div></font></div></div></div></div></div></blockquote><div id="m_-2725458348504262091topicbox-footer" style="margin:10px 0 0;border-top:1px solid #ddd;border-color:rgba(0,0,0,.15);padding:7px 0">

<strong><a href="https://ip.topicbox.com/latest" style="color:inherit;text-decoration:none" target="_blank">ip</a></strong>
  / ip / see
<a href="https://ip.topicbox.com/groups/ip" target="_blank">discussions</a>
  +
<a href="https://ip.topicbox.com/groups/ip/members" target="_blank">participants</a>
  +
<a href="https://ip.topicbox.com/groups/ip/subscription" target="_blank">delivery options</a>
<a href="https://ip.topicbox.com/groups/ip/T4857570c766f04e7-Md9a48eed7d060ff5d5f935b0" style="float:right" target="_blank">Permalink</a>
</div>
</div></div></div>