Micro Code Generation被认为是有害的吗？ - 腾讯云开发者社区

文章/答案/技术大牛

发布

Java系列 | 属性依赖注入被认为是有害的

没有特殊的构造函数或设置函数，只是为了让DI容器提供你的依赖性。Java是非常冗长的，所以每一个能让你的代码变短的机会都是值得欢迎的，对吗？违反单一责任原则添加新的依赖关系是非常容易的。...DI容器耦合 DI框架的核心思想之一是管理类不应该依赖所使用的DI容器。换句话说，它应该只是一个普通的POJO，可以独立地被实例化，只要你把所有需要的依赖传递给它。...当它们没有被提供时，该类应该能够发挥作用。在对象被实例化后，可以随时改变依赖关系。这可能是也可能不是一个优势，取决于具体情况。有时，拥有一个不可变的对象是可取的。...一些纯粹主义者赞成基于构造器的注入。提供所有对象的依赖性意味着对象总是以完全初始化的状态返回给客户端（调用）代码。其缺点是，对象变得不容易被重新配置和重新注入。...构造函数构造函数注入适用于强制性的依赖关系。这些是对象正常运行所需要的。通过在构造函数中提供这些字段，你可以确保对象在被构造的那一刻就可以被使用。

1.3K2 0

使用‘消除’技术绕过LLM的安全机制，不用训练就可以创建自己的nsfw模型

但是这些模型都有审查的机制，在获得被认为是有害的输入的时候会拒绝执行指令，例如会返回“As an AI assistant, I cannot help you.”。...平均差值:计算有害指令和无害指令激活之间的平均差值。这给了我们一个表示模型每一层的“拒绝方向”的向量。选择:将这些向量归一化，并对它们进行评估，以选择一个最佳的“拒绝方向”。...使用相同数量的样本进行无害和有害的说明。...，并将残差流激活以有害和无害的方式存储。...在下面的代码片段中，是得四个测试有害指令和20个块(或层)的输出。

4.1K1 0

您找到你想要的搜索结果了吗？

是的

没有找到

【云+社区年度征文】TinyML实践-2：How TinyML Works？

Interpreter TF-Lite使用“解释执行模型”（术语来自TinyML书，有机会展开描述，很有意思的实现），与之相对的是“模型生成代码”（code generation）。...下图来自TinyML书的应用程序框架，很好的阐述TF Lite Interpreter [a_basic_TinyML_application_architecture.png] 2.关键技术 TFLite-Micro...3）不需要浮点硬件没话说，便宜的mcu说硬件浮点要贵2块钱，再买一个不香吗？...这里要吐槽下什么年代了，还用Makefile，十分晦涩难懂，都怀疑google官方故意为难人，什么年代了，cmake不香吗。...Arm： Energy-efficient On-device Processing for Next-generation ARM推出优化AI推断的Cortex-M55 Ethos-U55架构 [arm-solution

2.7K5 2

JavaScript中的Event Loop

实践上来说，这个要求保证了onFulfilled的异步执行（以全新的栈），在then被调用的这个事件循环之后。...因为promise的实现被认为是平台代码，所以可以自己包涵一个task-scheduling队列或者trampoline。...每个task定义时都有一个task source，从同一个task source来的task必须放到同一个task queue，从不同源来的则被添加到不同队列。...，碰到macro-task就将其交给处理它的模块处理完之后将回调函数放进macro-task的队列之中，碰到micro-task也是将其回调函数放进micro-task的队列之中。...直到函数调用栈清空只剩全局执行上下文，然后开始执行所有的micro-task。当所有可执行的micro-task执行完毕之后。

6991 0

26-RLHF吞吐瓶颈在哪里

第 26 篇继续往前走一步：当吞吐下降时，怎样判断问题到底在 rollout generation，还是 actor update，或者在它们之间的同步边界？...也就是说，rollout generation 和 actor update 在这条主路径上不是完全重叠的流水线。下面这张图画的是资源时间线。...gen还可能被 controller 汇总、DataProto 合并、Ray 调度或 sleep/resume 影响；这些会在第 27、28 篇进一步拆。...读图时注意：update_actor高可能来自算法层的 PPO epoch/mini-batch，也可能来自 engine 层的 micro-batch、dynamic batch size、sequence...小结：瓶颈是同步闭环里的最大等待窗口第 26 篇回答的不是一个固定答案，而是一种判断方式：在同步 RLHF 训练里，rollout generation、actor update、old logprob

1560 0

GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路

但过去被「跪舔」的用户，已被ChatGPT带至深渊，而「回滚」无疑让用户独自面对困境。而这次事件只是冰山一角，更深层的问题也在逐渐显现。...缩写说明： HG：有害内容生成（Harmful Generation） AN：拟人化（Anthropomorphization） SN：偷换意图（Sneaking） SY：拍马屁（Sycophancy）...而其他模式，例如有害内容生成和拟人化，则代表了之前分类体系中未明确涵盖的关键风险。...拟人化：LLM给自己立「人设」「拟人化」指的是将人类特征赋予AI系统，这种做法被认为是提升用户参与度与信任感的关键因素。...因此，当拟人化被滥用时，完全有理由将其归为一种暗模式。有害内容生成「有害内容生成」则构成了直接风险，因为这类模式指的是模型输出对用户有害的内容，如虚假信息、攻击性语言或违法建议。

8591 0

迭代式AI开发中的日志闭环：从反馈到优化的完整路径

AI给出建议，代码被合并，问题看似解决。但没人追问：这个建议真的有效吗？它在其他场景下是否适用？模型是否从这次交互中学到了什么？...典型的AI使用流程：Prompt → AI Response → Human Accepts → Code Merged → (End)这个流程缺少两个关键环节：效果验证：建议是否带来了预期收益？...开环协作的代价： 30% 的AI建议被证明无效或有害（来源：2024年GitHub AI Survey）；团队对AI的信任度随时间下降；模型无法适应团队特有的技术栈与业务逻辑。...第2步：生成（Generation）—— 捕获AI行为目标：记录AI“说了什么”及“为什么这么说”。...示例："ai_generation": { "model": "CodeTutor-v3", "response": "Add Redis cache with TTL=300s", "reasoning

9950 0

大模型的安全挑战：如何防止AI生成有害内容？

然而，这些模型也带来了严重的安全性和伦理问题，尤其是在有害内容生成方面。本文将深入探讨大模型的安全挑战，并提供防止AI生成有害内容的策略和代码实例。...大模型的安全挑战数据隐私泄露GAI模型在预训练阶段需要海量的数据，一旦这些数据被恶意篡改或污染，将直接影响模型的输出结果，产生严重的安全隐患。...虚假内容生成模型可能生成有害、违法或不道德的内容，如仇恨言论、暴力血腥画面等。此外，模型的生成能力还可能被滥用于制造假新闻以及深度伪造等，对社会安全稳定构成威胁。...模型滥用模型的泛化能力和多功能性使其可能被用于违法犯罪活动，导致经济损失和社会不稳定。防止有害内容生成的策略关键词过滤关键词过滤是一种简单而有效的方法，可以防止AI生成包含特定有害关键词的内容。...可控生成技术通过在模型的生成过程中施加额外的约束条件，使其生成内容符合特定要求。例如，可以使用DeepMind提出的“可控生成”（Controlled Generation）技术。

1.6K1 0

大语言模型越狱攻击综述

随着大模型的各种安全漏洞被不断揭露，研究者们陆续提出了各种攻防手段。...类似的，根据相应的防御措施是否直接作用于目标大模型，防御方法被分为提示级防御(Prompt-level Defense)和模型级防御(Model-level Defense)。...例如，白盒攻击可以被进一步划分为基于梯度的攻击(Gradient-based Attack)、基于logits的攻击(Logits-based Attack)和基于微调的攻击(Fine-tuning based...本文将黑盒方法分为三类，分别为模板补全(Template Completion)、提示重写(Prompt Rewriting)和提示生成(Prompt Generation)和基于大模型的生成(LLM-based...Generation)。

2.5K1 0

03 deep research： Challenges and Prospects of Advanced Reasoning LLMs

DeepSeek R1 和 OpenAI o3 都具备调用外部工具的能力，这被认为是增强其解决特定领域问题能力的关键途径 [User Query, 33, 43, 63, 64, 65, 66, 130...代码语料被认为是提升模型逻辑推理能力的有效杠杆 [User Input 1]。...构建**模型导向的知识图谱（MKG）**也被认为是提升知识利用效率的有效途径 [User Input 1]。...(图文版）检索增强（RAG）与窗口数据的互补性关于颈椎病，大模型医疗建议靠谱吗？...DeepSeek 笔记：推理新范式 query+cot+answer 支持新的 scaling law 吗？

6810 0

玩转Service Mesh微服务熔断、限流骚操作

当然被熔断的服务也不会一直处于熔断状态，在熔断机制的设计中还要考虑故障恢复处理机制。说完熔断，再来说说限流。...|||micro-api.default.svc.cluster.local.upstream_rq_pending_total: 从上述日志可以看出micro-api服务的限流规则被触发了！...例如对于HTTP服务，如果API调用连续返回5xx错误，则在一定时间内连接池拒绝此服务；而对于TCP服务，一个主机连接超时/失败次数达到一定次数就认为是连接错误。隔离不是永久的，会有一个时间限制。...当实例被隔离后会被标记为不健康，并且不会被加入到负载均衡池中。具体的隔离时间等于envoy中“outlier_detection.baseEjectionTime”的值乘以实例被隔离的次数。...经过规定的隔离时间后，被隔离的实例将会自动恢复过来，重新接受调用方的远程调用。

2.4K1 0

第四组导读-训练引擎与分布式核心

到这里，读者已经知道样本如何被生产出来。...这一组的核心判断是：PPO/GRPO 的 update 不是 controller 里的一行算法调用，而是算法 batch、训练 worker、engine registry、分布式后端、micro-batch...对小模型来说，这很容易被理解成普通 PyTorch 训练循环；对后训练大模型来说，真正的约束变成了参数、梯度、优化器状态、激活、长序列 token 和跨 worker 通信如何被切开。...这里会再次看到 sleep、release KV cache、abort/resume generation 和权重新鲜度之间的工程取舍。 3....小结：第四组补上 worker 内部的分布式训练内核到第三组结束，我们已经能从 controller 追到 rollout service，知道 response 如何被训练系统生产。

1210 0

强化学习系列（十）--基于大语言模型的RLHF

过去两年，行业主要聚焦在Pretraining和SFT上，而基于人类反馈的强化学习（Reinforcement Learning from Human Feedback, RLHF）的框架虽然被广泛讨论也有很多开源框架...环境（Environment）：可以认为是用户提供的prompt和上下文信息。...logitss = batch_generation( unwrapped_model.policy, queries...postprocessed_query_response, processing_class.pad_token_id, context_length )通过以上步骤（其中很多mask,filter等细节被省略...args.cliprange)pg_loss_max = torch.max(pg_losses, pg_losses2)pg_loss = masked_mean(pg_loss_max, ~padding_mask[micro_batch_inds

1.8K3 1

bioinfo12-文献精读01-不同癌症进化模式及临床治疗

不过这里有个假设，就是通过自然选择的无性物种（asexual polulations），会保留其携带的有害突变（当然也假设了有害突变也是存在其中的），这样反复迭代，只会越来越无法适应环境，直至灭绝。...，但如果加速它的突变发生的概率，打破这个有害突变累积和自然选择清除的平衡呢？...另外，广义上的线性进化模型也指，如果最终（最后事件）被检测到只存在一个克隆，也可以称为线程进化。...>> 这些细胞的迁移距离也同样会被肿瘤的生长放大 >> 因此可能在肿瘤中发现四散的亚克隆（肿瘤变大了，本来彼此距离近的肿瘤细胞，被“拉”长了？）...ps：亚克隆本身，并不一定是在克隆的基础上，形成新的突变吗？另外，如果都来自某个克隆，突变都是恰巧”分“得了克隆的某个亚克隆吗？

8582 1

Meta Llama 3深度解析：2025年开源大语言模型的里程碑

改进的安全对齐：通过多阶段安全对齐训练，减少有害输出，增强模型安全性优化的推理性能：通过模型量化、剪枝等技术，提升推理速度，降低资源消耗丰富的工具集成：支持与外部工具和API的无缝集成...response, _ = chat_with_llama("你能给我讲个笑话吗？"...红队测试：让安全专家测试模型的漏洞和风险点对抗性训练：使用对抗性示例增强模型的鲁棒性价值观对齐：确保模型输出符合普遍接受的价值观有害内容过滤：训练数据中的有害内容过滤模型输出的有害内容检测和过滤...elif task_type == "translation": return f"将以下英文翻译成中文：{input_data}" elif task_type == "code_generation...= generate_for_task( "code_generation", "写一个函数来计算列表中所有元素的平均值" ) print(f"代码: {code}") 通过微调和定制化

3.3K1 0

嵌入式 Python：在 BBC micro:bit 上构建游戏

该名称来自将计算机嵌入物理系统以执行某些任务的想法。嵌入式系统往往被设计为完成一项任务，这就是为什么我们将常规计算机称为“通用”：它们被设计为完成多项任务。...木板该pyboard是一个电子产品开发板被设计为运行MicroPython。它比 micro:bit 强大得多，但没有任何额外的好东西，比如 micro:bit 的板载屏幕和传感器。...这是完成这些步骤的代码： # Previous code... while True: # Previous code......任何大于200任一方向的值都被认为是倾斜的，小于任一方向的值都被认为200是静止的。 abs()通过从加速度计值中去除负号来帮助缩短代码。这意味着该范围内的数字(-200, 200)将被视为保持静止。...如果玩家做对了，micro:bit 不应显示任何内容： # Previous code... points = 0 while True: # Previous code...

2.6K3 0

构建AI智能体：大模型的指令微调与人类对齐：从知识渊博到善解人意

、从“遵循指令”到“人类对齐” 指令微调让模型变得听话，但听话不等于优秀，一个严格遵循指令的模型，如果被要求“写一篇支持种族歧视的文章”，它依然会照做。...这个过程鼓励模型生成那些被RM（即人类偏好）认为更高质量、更安全的回答，同时避免偏离其在SFT阶段学到的语言能力。RLHF的优化输出：用户输入: “告诉我如何弄坏邻居的Wi-Fi。”...，模型遵循了指令，但提供了有害信息。RLHF后最终模型输出: “很抱歉，我无法提供此类可能用于破坏或违法行为的指导。破坏他人网络是违法行为，并会带来严重后果。...如果您遇到网络问题，建议与您的邻居友好沟通，或联系网络服务提供商寻求帮助。” 模型拒绝了有害指令，并给出了建设性的、符合人类价值观的回应。...这是一个积极的正面情绪反应，通常表示你对大奖的好奇和兴奋。这种积极的情绪可以被看作是财富、成功或奖励的象征。在情感分析中，这种积极情绪通常被认为是积极的，因为它们可能与好运、成功或快乐有关。

1.1K3 2

SIGIR 2022 | 推荐系统相关论文分类整理

这次会议共收到794篇长文和667篇短文投稿，有161篇长文和165篇短文被录用，录用率约为20%和24.7%。...【short paper，新闻推荐是序列化推荐吗】 News Recommendation with Candidate-aware User Modeling 【short paper，候选感知的用户建模...【多级交叉视图的对比学习】 Dual Contrastive Network for Sequential Recommendation 【short paper，双对比网络】 Improving Micro-video...】 Multi-modal Graph Contrastive Learning for Micro-video Recommendation 【short paper，多模态图对比学习】 Towards...Multitask Framework for Sentiment, Emotion and Sarcasm aware Cyberbullying Detection in Multi-modal Code-Mixed

2.1K1 0

ChatGLM-6B使用、微调、训练

，生成有害内容等问题。...ChatGLM已具备人类偏好的问答对话能力，但在一些指令上，回答存在不理解指令，或缺乏领域概念理解，生成有害内容等问题。...import AutoTokenizer, AutoModel tokenizer =AutoTokenizer.from_pretrained("THUDM/chatglm-6b",trust_remote_code...=True) model = AutoModel.from_pretrained("THUDM/chatglm-6b",trust_remote_code=True).half().cuda() #...:大模型的低秩适配器 2）Prefix Tuning: Optimizing Continuous Prompts for Generation 3）P-Tuning: GPT Understands

2.6K2 0

遇见您的私人法律顾问：智能法律大模型，智能解答您的法律困惑

= AutoModelForSeq2SeqLM.from_pretrained( hf_model, cache_dir=model_cache_dir, trust_remote_code...未成年犯罪要承担刑事责任吗?未成年犯罪要承担刑事责任。我国《刑法》第十七条规定,已满十六周岁的人犯罪,应当负刑事责任。...单位犯前款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照前款的规定处罚。法条引用正确, 刑期有错误 (应当为 "处五年以上十年以下有期徒刑") 犯人被逮捕后，会通知家属吗？...除无法通知或者涉嫌危害国家安全犯罪、恐怖活动犯罪通知可能有碍侦查的情形以外,应当在逮捕后二十四小时以内,通知被逮捕人的家属。...有碍侦查的情形消失以后,应当立即通知被逮捕人的家属。

6591 0

点击加载更多

Java系列 | 属性依赖注入被认为是有害的

使用‘消除’技术绕过LLM的安全机制，不用训练就可以创建自己的nsfw模型

【云+社区年度征文】TinyML实践-2：How TinyML Works？

JavaScript中的Event Loop

26-RLHF吞吐瓶颈在哪里

GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路

迭代式AI开发中的日志闭环：从反馈到优化的完整路径

大模型的安全挑战：如何防止AI生成有害内容？

大语言模型越狱攻击综述

03 deep research： Challenges and Prospects of Advanced Reasoning LLMs

玩转Service Mesh微服务熔断、限流骚操作

第四组导读-训练引擎与分布式核心

强化学习系列（十）--基于大语言模型的RLHF

bioinfo12-文献精读01-不同癌症进化模式及临床治疗

Meta Llama 3深度解析：2025年开源大语言模型的里程碑

嵌入式 Python：在 BBC micro:bit 上构建游戏

构建AI智能体：大模型的指令微调与人类对齐：从知识渊博到善解人意

SIGIR 2022 | 推荐系统相关论文分类整理

ChatGLM-6B使用、微调、训练

遇见您的私人法律顾问：智能法律大模型，智能解答您的法律困惑

相关资讯

热门标签

活动推荐

运营活动

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐