编程杂记-腾讯云开发者社区

开发者社区

文档建议反馈控制台

腾讯云架构师技术同盟

文章/答案/技术大牛

发布

编程杂记

专栏成员

87

文章

38399

阅读量

13

订阅数

【AI大模型】伪装成百科&选词填空的红队攻击方法：SATA

模型设计安全工作论文

随着大型语言模型（LLMs）如 GPT-4、Claude 和 Llama3 在理解、生成和推理能力上的飞速提升，它们已经成为众多任务中的核心基础设施。然而，随之而来的安全隐患也日益凸显——如何防止这些模型被恶意利用，生成有害内容？近期，由清华大学、合肥工业大学和上海齐智研究所联合发表的论文《SATA: A Paradigm for LLM Jailbreak via Simple Assistive Task Linkage》提出了一种全新的越狱（jailbreak）范式，名为 Simple Assistive Task Linkage（SATA）。论文链接：https://arxiv.org/abs/2412.15289 这项研究不仅揭示了现有 LLM 安全机制的脆弱性，还通过创新的简单辅助任务设计，展示了高效、低成本的越狱攻击方式。这篇工作真的是非常的有意思！！！

2025-03-01

540

【Deepseek】DeepSeek-R1诞生过程

性能 DeepSeek 测试模型数据

本博客参考Deepseek开源论文：DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

2025-02-13

1330

【Python】解决matplotlib绘图无法显示中文

python matplotlib 解决方案配置权限

在使用Matplotlib进行数据可视化时，经常会遇到中文显示为方块或者无法正常显示的问题。这个问题的根本原因是Matplotlib默认不支持中文字体。本文将详细介绍如何在不同操作系统下解决这个问题。

2025-01-16

2481

【Python】Python打包为.exe文件

脚本 python 打包 exe 程序

将Python程序打包成.exe文件可以让用户不需要安装Python环境也能运行程序。下面是使用PyInstaller来完成这个任务的步骤:

2024-09-01

2760

【YOLO系列】快速部署YOLOv5（Windows）

部署源码 windows conda yolo

在计算机视觉领域，目标检测是至关重要的任务之一，它涉及识别图像或视频中的对象，并将其分类和定位。近年来，**YOLO（You Only Look Once）**算法因其速度与精度的平衡而变得非常流行。在这篇博文中，我们将详细介绍如何快速在Windows系统上部署YOLO模型。

2024-07-14

3230

【后端开发】docker安装MySQL并做端口映射

开发连接数据库 mysql 后端

因为MySQL是在docker里面的所以要从docker外面连接MySQL需要做端口映射以下是端口映射的的命令：

2024-07-09

2520

查看服务器后台进程输出

linux 服务器

当服务器有后台进程在运行时候，一般输出不会在命令行界面显示，需要一行命令来实时查看后台进程的输出结果

2024-05-22

2320

Python导出requirements.txt

python python-3.3 软件项目管理

在Python项目中，我们经常需要使用各种第三方库来协助开发。这些库的版本和依赖关系对于项目的稳定运行至关重要。为了确保项目在不同环境中的一致性，我们需要一个文件来记录项目所依赖的库及其版本，这就是requirements.txt。

2024-05-15

4210

【AI大模型】自动生成红队攻击提示--GPTFUZZER

测试框架漏洞模型 LLM

本篇参考论文为： Yu J, Lin X, Xing X. Gptfuzzer: Red teaming large language models with auto-generated jailbreak prompts[J]. arXiv preprint arXiv:2309.10253, 2023. https://arxiv.org/pdf/2309.10253

2024-05-14

3120

如何生成ssh—key

打开Git Bash，输入命令：ssh-keygen -t rsa -C "youremail@example.com

2024-05-06

2.8K0

【AI大模型】用指令层级的方法提高LLM的安全性

安全治理 LLM

Eric Wallace, Kai Xiao, Reimar Leike, Lilian Weng, Johannes Heidecke, Alex Beutel. The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions. arXiv:2404.13208v1, 2024.

2024-04-30

1990

【机器学习笔记】第一章绪论

深度学习架构模型学习笔记神经网络

1.损失函数;反映预测结果和实际结果的差异 2.泛化能力：模型适用于新样本的能力 3.过拟合：模型在训练集上表现很好，但是泛化能力

2024-04-29

1180

【AI大模型】Prompt Engineering 基础知识与挑战

设计数据自然语言处理 prompt 模型

Prompt Engineering，即提示工程，是一种新兴的技术领域，它主要研究如何设计有效的提示（Prompt）来引导用户生成特定的输出。随着自然语言处理技术的快速发展，特别是预训练语言模型（如 GPT-3）的崛起，Prompt Engineering 变得越来越重要。本文将介绍 Prompt Engineering 的一些基础知识，并分享一些思考。

2024-04-29

3370

VScode远程连接ssh

vscode-extensions

在软件开发领域，远程开发已经成为了常态。开发者们经常需要连接到远程服务器进行代码编写、调试和部署。Visual Studio Code（VSCode）作为当下最受欢迎的代码编辑器之一，其强大的远程开发功能让这一切变得简单。本文将详细介绍如何使用 VSCode 远程连接 SSH，实现高效便捷的远程开发。

2024-04-28

1.9K0

Linux查看特定进程并终止进程

使用 ps 命令结合 grep 来搜索正在执行的 Python 进程。下面是一种方法：

2024-04-28

2240

6.如果你的远程仓库最近有更新，比如新的分支或标签被添加，你需要先更新本地仓库的远程跟踪信息。可以使用以下命令来更新;

2024-04-23

1190

【Jetson Nano】jetson Nano安装pytorch and torchvision

apt 部署镜像人工智能 pytorch

Pytorch是著名的人工智能框架，在部署人工智能项目的时候，就需要在嵌入式开发板上安装pytorch，下面就详解介绍关于安装pytorch的步骤

2024-03-18

8930

【Jetson Nano】jetson nano一些基本功能命令

工企 AI Linux Mint linux

cd /usr/local/cuda-10.2/samples/1_Utilities/deviceQuery

2024-03-17

4260

MySQL入门（一）创建删除一个数据库

USE 数据库名；选择要操作的Mysql数据库，使用该命令后所有Mysql命令都只针对该数据库

2024-02-19

3071

【pyQT6】配置pycharm外部工具的小技巧

pycharm 程序工具技巧配置

在PyQt6应用程序中，集成外部工具可以增强用户体验并提供更多功能，运用起来也十分方便。下面就来介绍两个比较常用的外部工具吧。首先得安装第三方库：

2024-01-31

1.1K0

点击加载更多

社区活动

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·干货材料·成员作品最新动态