Put children at the centre of new tech

pexels kelly 17290982 e1697377955199
GLOBAL THREAT ASSESSMENT 2023
Other opinions in this series

Adidja is a Plan International Youth Campaigner

Life in Cameroon

In Cameroon, the Internet plays an important role in the daily lives of young people from my point of view such as: distraction, learning, socialisation and communication.

The Internet has the potential to broaden horizons but also inspire negativity in the world, leading to serious risks for children such as cyber-stalking, psychological violence and manipulation, sexual violence and exploitation.

Raising awareness of these issues and promoting tools to detect harmful content is the first step in realising children’s right to safe participation and protection online.

Online risks children like me face

This Global Threat Assessment shows that today, young people and children like me face the risks of the Internet and suffer a great deal as a result. This suffering from sexual abuse and exploitation online is increasing day by day, and year by year.

In 2022, NCMEC analysed over 32 million reports of child sexual abuse material. The FBI have also noted an explosion of financial sexual extortion schemes targeting young people and teenagers The emergence of new technologies presents more risks to children’s safety such as extended reality and also online grooming which is evolving into social gaming environments Young people are even taking their own lives due to experiencing these harms, such as Ryan, a 17-year-old who died as a result of being a victim of financial extortion over sexual images. A friend of mine was also the victim of an internet scam by a man who promised her an iPhone if she agreed to send him naked pictures of herself.

This is a real danger, and as a young person I feel a strong inexplicable pain that burns inside me, because many of us young people are frustrated, traumatised and disorientated when we come across people who act in bad faith online. The emergence of new technologies is not without consequences, and many young people and children are at risk if we do not take further action to protect them.

This poses a real problem for me as a young person. I no longer want my peers and future generations to experience this disastrous situation. The Internet should be a digital space where young people and children can develop their technological skills and digitise without risk. I dream of a healthy, safe world where they can learn, be entertained, get information online and experience all the advantages of the digital world.

Protecting children online

We need to think about what needs to be done to protect children from online violence and sexual abuse, and to punish the abusers. Protecting children from sexual exploitation and abuse online requires action from government, technology companies, policy makers, funders and law enforcement.

I think Governments should develop laws to combat the increase in sexual abuse online and invest more in public health approaches by prioritising prevention. We need Safety by Design to put children at the centre of new technologies such as generative AI and XR, and to mitigate the risks associated with end-to-end encryption. Our perspectives should be put at the centre of the design of new technology.

I also think sex education that focuses on healthy relationships is very important. Children need age-appropriate knowledge and tools to help us navigate online spaces safely and enable us to hold online service providers to account to ensure our safety.

The internet itself is great, but the risks associated with online predators pose a great danger to me and my vulnerable peers.

Through my voice as a young activist, I suggest that state and non-state partners, as major players in the moderation of this issue, take their responsibility to protect us seriously, bring about positive change in the digital world, so that we are no longer victims of sexual abuse and exploitation online and can  ensure a better future for ourselves.

Au Cameroun, l’Internet joue un rôle important dans notre vie quotidienne de jeunes, de mon point de vue : un rôle de distraction, d’apprentissage, de socialisation et de communication.

L’Internet peut élargir les horizons, mais aussi créer des effets négatifs dans le monde, exposant les enfants à des risques graves comme le cyberharcèlement, la violence et la manipulation psychologiques, la violence sexuelle et l’exploitation.

La sensibilisation à ces questions et la promotion d’outils permettant de détecter des contenus nocifs constituent la première étape pour garantir le droit des enfants à participer sans risques et à être protégés en ligne.

L’Évaluation mondiale de la menace montre qu’aujourd’hui, les jeunes et les enfants comme moi font face aux risques liés à l’Internet et en souffrent beaucoup. Cette souffrance due aux abus et à l’exploitation sexuels en ligne ne fait qu’augmenter de jour en jour, et d’année en année.

En 2022, le NCMEC des États-Unis a analysé plus de 32 millions de signalements de matériels d’abus sexuels d’enfants. Le FBI a aussi noté une explosion des stratagèmes d’extorsion sexuelle financière ciblant des jeunes et des adolescents. L’apparition de nouvelles technologies présente plus de risques pour la sécurité des enfants, comme la réalité étendue (XR), mais aussi la sollicitation en ligne qui se manifeste dans les environnements de jeux sociaux. Des jeunes se suicident même suite à ces abus, à l’image de Ryan, un jeune de 17 ans qui s’est donné la mort, car il était victime d’extorsion financière liée à des images sexuelles. Une de mes amies a aussi été victime sur l’Internet d’un homme qui lui promettait un iPhone si elle acceptait de lui envoyer des images d’elle nue.

Je pense que c’est un vrai danger. En tant que jeune, je ressens une douleur forte et inexplicable qui brûle en moi, car nous, jeunes, sommes nombreux à être frustrés, traumatisés et déboussolés de tomber sur des personnes qui agissent de mauvaise foi en ligne. L’apparition de nouvelles technologies n’est pas sans conséquence, et de nombreux jeunes et enfants continueront d’être en danger si nous ne prenons pas de nouvelles mesures pour les protéger.

C’est un vrai problème pour moi, en tant que jeune. Je ne souhaite plus que mes pairs et les futures générations vivent cette situation désastreuse. L’Internet doit être un espace qui permet aux jeunes et aux enfants de développer leurs capacités digitales et numériques sans aucun risque. Je rêve d’un univers sain et sans danger où ils peuvent s’instruire, se distraire, s’informer en ligne et profiter de tous les avantages du monde numérique.

Nous devons penser aux actions à mener afin de protéger les enfants contre ces violences et abus sexuels en ligne, et punir ces auteurs d’abus. La protection des enfants contre l’exploitation et les abus sexuels en ligne nécessite des actions du gouvernement, des entreprises technologiques, des décideurs, des bailleurs de fonds et des forces de maintien de l’ordre.

Je pense que les gouvernements doivent légiférer pour lutter contre l’essor des abus sexuels en ligne et investir davantage dans des approches de santé publique en donnant la priorité à la prévention. Nous avons besoin de la sécurité dès la conception pour placer les enfants au centre des nouvelles technologies, telles que l’IA générative et la XR, et pour atténuer les risques associés au chiffrement de bout en bout. Nos points de vue doivent être au cœur de la conception des nouvelles technologies.

Je pense aussi qu’une éducation sexuelle axée sur des relations saines est très importante. Nous, enfants, avons besoin de connaissances et d’outils adaptés à notre âge pour nous aider à naviguer dans les espaces en ligne en toute sécurité et nous permettre de demander des comptes aux fournisseurs de services en ligne pour qu’ils assurent notre sécurité.

L’Internet est un excellent outil en soi, mais les risques liés aux prédateurs en ligne présentent un grand danger pour mes pairs vulnérables et moi.

Par ma voix de jeune activiste, je suggère que les partenaires étatiques et non étatiques, en tant qu’acteurs majeurs de la modération sur cette question, prennent leur responsabilité pour nous protéger sérieusement et apporter un changement positif dans le monde virtuel, afin que nous ne soyons plus victimes des abus et de l’exploitation sexuels en ligne et que nous puissions avoir un avenir meilleur.