已合并
[RFC]: 刷新代码格式——mindie_llm #905
[RFC]: 刷新代码格式——mindie_llm #905
已合并
KaiMa创建于 4月16日
KaiMa
KaiMa成员
4月16日

合入背景

请描述为什么要做这个PR内的改动。
如涉及,请关联前序PR或同特性/需求下的其他PR。
如果是修复之前PR引入的问题,请关联引入问题的PR。
注意:Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代.

Fixes #443

修改内容

请描述修改内容的具体实现,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。
如果是需求或者重构类的PR,需要补充详细设计文档(说明上下游组件关系、时序图、类图、DFX能力等内容)。

资料变更

请确认是否涉及资料变更。如涉及,需要在PR中体现,并简要说明修改内容。如不涉及,需填写“不涉及”。

接口变更

请确认是否涉及跨代码仓或者客户面可见的接口变更。如涉及,需要详细说明接口以及对应的变更内容,同时需要在资料中体现。如不涉及,需填写“不涉及”。

测试结果

请说明测试场景,测试方法以及测试结果。
测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。

CheckList

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]。

likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 KaiMa 的贡献)
KaiMaKaiMa成员
4月16日 关联了issue:[RFC]: 刷新代码格式
ascend-robotascend-robot成员
4月16日 添加了label:stat/needs-squash
ascend-robot
ascend-robot成员
4月16日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-Ascend/MindIE-LLM hw-zhoutianyang, 纪涛 (2/2) 纪涛 (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

KaiMa, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
ascend-robotascend-robot成员
4月16日 添加了label:ascend-cla/yes
KaiMa
KaiMa成员
4月16日 评论:

compile

likedislike
此处折叠了99条消息 查看更多
ascend-robot
ascend-robot成员4月16日进行代码检视1
mindie_llm/connector/request_listener/shared_mem_communication.py
@@ -155,3 +152,3 @@
152+ self.shared_memory.buf[buffer_offset : buffer_offset + msg_length_bytes] = msg_length.to_bytes(
155153 msg_length_bytes, "little"
156154 )
157- self.shared_memory.buf[buffer_offset + msg_length_bytes: buffer_offset + msg_length_bytes + msg_length] = (
ascend-robot
ascend-robot4月16日评论:
代码可读性: 切片操作中的空格使用不一致,与第149行格式不统一。第151行在冒号后有两个空格。
问题类型: 代码可读性
文件路径: mindie_llm/connector/request_listener/shared_mem_communication.py
行号: 155
问题代码:
self.shared_memory.buf[buffer_offset + msg_length_bytes : buffer_offset + msg_length_bytes + msg_length] = (
            proto_data
        )
修改建议:
统一切片操作的空格格式,建议修改为:`self.shared_memory.buf[buffer_offset + msg_length_bytes:buffer_offset + msg_length_bytes + msg_length] = proto_data`
---
此评论由代码审查工具自动生成
likedislike
ascend-robot
ascend-robot成员4月16日进行代码检视1
mindie_llm/connector/request_listener/shared_mem_communication.py
@@ -113,30 +110,29 @@
110+ 
113111 check_owner_and_permission(f"/dev/shm/sem.{sem_producer_name.lstrip('/')}", current_uid)
114112 check_owner_and_permission(f"/dev/shm/sem.{sem_consumer_name.lstrip('/')}", current_uid)
115113 check_owner_and_permission(f"/dev/shm/{self.name_prefix}", current_uid)
@@ -132,7 +130,7 @@ class SharedMemoryChannel:
132130 msg_length = int.from_bytes(mem[:msg_length_bytes], "little")
133131 if msg_length <= 0:
134132 raise ValueError(f"Invalid message length: {msg_length}")
135- proto_data = bytes(mem[msg_length_bytes: msg_length_bytes + msg_length])
133+ proto_data = bytes(mem[msg_length_bytes : msg_length_bytes + msg_length])
136134 self.producer_semaphore.release()
137135 
138136 message = message_class()
@@ -151,10 +149,10 @@ class SharedMemoryChannel:
151149 raise ValueError(f"Message size {msg_length} exceeds shared memory size limit at offset {buffer_offset}")
152150 
153151 self.producer_semaphore.acquire()
154- self.shared_memory.buf[buffer_offset: buffer_offset + msg_length_bytes] = msg_length.to_bytes(
152+ self.shared_memory.buf[buffer_offset : buffer_offset + msg_length_bytes] = msg_length.to_bytes(
155153 msg_length_bytes, "little"
156154 )
157- self.shared_memory.buf[buffer_offset + msg_length_bytes: buffer_offset + msg_length_bytes + msg_length] = (
155+ self.shared_memory.buf[buffer_offset + msg_length_bytes : buffer_offset + msg_length_bytes + msg_length] = (
158156 proto_data
159157 )
160158 span_end(prof_serialize)
@@ -168,12 +166,8 @@ class SharedMemoryChannel:
168166 raise ValueError(f"Message size {msg_length} exceeds shared memory size limit")
169167 
170168 self.producer_semaphore.acquire()
171- self.shared_memory.buf[0:msg_length_bytes] = msg_length.to_bytes(
ascend-robot
ascend-robot4月16日评论:
代码可读性: 切片操作中的空格使用不一致。第166行在冒号后没有空格,而第167行在冒号后有两个空格。这种不一致会影响代码的可读性。
问题类型: 代码可读性
文件路径: mindie_llm/connector/request_listener/shared_mem_communication.py
行号: 169
问题代码:
self.shared_memory.buf[0:msg_length_bytes] = msg_length.to_bytes(msg_length_bytes, "little")
self.shared_memory.buf[msg_length_bytes : msg_length_bytes + msg_length] = byte_message
修改建议:
统一切片操作的空格格式,建议都采用一致的格式。可以修改为:`self.shared_memory.buf[msg_length_bytes:msg_length_bytes + msg_length] = byte_message`
---
此评论由代码审查工具自动生成
likedislike
ascend-robot
ascend-robot成员4月16日进行代码检视1
mindie_llm/connector/request_router/layerwise/request_router_cloud.py
@@ -98,4 +111,3 @@
98111 prefill_layers_divi_num = int(os.getenv("PREFILL_CUT_NUM", "5"))
99112 prefill_layers_divi_policy = self.prepare_prefill_cut_policy(prefill_layers_divi_num)
100113 
101- logger.info(f"[layerwiseDisaggregated] cloud initliaze ok rank:{self.rank}, "
ascend-robot
ascend-robot4月16日评论:
代码可读性: 日志信息中的单词拼写错误。原代码中 `initliaze` 应该是 `initialize` 的拼写错误。
问题类型: 代码可读性
文件路径: mindie_llm/connector/request_router/layerwise/request_router_cloud.py
行号: 114
问题代码:
logger.info(
    f"[layerwiseDisaggregated] cloud initliaze ok rank:{self.rank}, "
修改建议:
建议修正拼写错误:将 `initliaze` 改为 `initialize`。正确的日志信息应该是:`f"[layerwiseDisaggregated] cloud initialize ok rank:{self.rank}, "`
---
此评论由代码审查工具自动生成
likedislike
ascend-robot
ascend-robot成员4月16日进行代码检视1
mindie_llm/examples/scheduler.py
@@ -311,4 +316,3 @@
311316 req.split_end_position = len(alias_input_ids_list[i])
312317 req.last_prompt = 1
313318 batch_req_status[i] = 1
314- elif (batch_req_status[i] == 1): # 上一次是最后一个prefill快
ascend-robot
ascend-robot4月16日评论:
注释错误: 注释中写的是'上一次是最后一个prefill快',但'快'应该是'块'的笔误。这种注释错误会影响代码的可读性。
问题类型: 注释错误
文件路径: mindie_llm/examples/scheduler.py
行号: 319
问题代码:
elif batch_req_status[i] == 1:  # 上一次是最后一个prefill快
修改建议:
修正注释中的错别字:'快'改为'块'。同时确保所有类似注释都正确。
---
此评论由代码审查工具自动生成
likedislike
ascend-robot
ascend-robot成员4月16日进行代码检视1
mindie_llm/tokenizer/io_utils.py
@@ -193,30 +193,30 @@
193193 else:
194194 os.makedirs(single_dir, exist_ok=True)
195195 os.chmod(single_dir, 0o750)
196- with file_utils.safe_open(shm_save_path, mode='wb', permission_mode=0o640):
196+ with file_utils.safe_open(shm_save_path, mode="wb", permission_mode=0o640):
197197 pass
198198 except FileNotFoundError as file_not_found_error:
199199 raise IOError("Error when create cache dir, file not found.") from file_not_found_error
@@ -207,7 +207,7 @@ def release_shared_memory(file_path):
207207 
208208 file_path = file_utils.standardize_path(file_path)
209209 file_utils.check_path_permission(file_path, mode=0o640)
210- with file_utils.safe_open(file_path, mode='r', permission_mode=0o640) as f:
210+ with file_utils.safe_open(file_path, mode="r", permission_mode=0o640) as f:
211211 shm_names = [line.strip() for line in file_utils.safe_readlines(f)]
212212 for name in shm_names:
213213 try:
@@ -230,7 +230,7 @@ def remove_cache_dir(dir_path):
230230 else:
231231 os.makedirs(dir_path, exist_ok=True)
232232 os.chmod(dir_path, 0o640)
233- shm_save_path = os.path.join(dir_path, "shm_name.txt")
233+ shm_save_path = os.path.join(dir_path, "shm_name.txt")
234234 release_shared_memory(shm_save_path)
235235 
236236 try:
@@ -246,6 +246,6 @@
246246 raise IOError("Remove cache dir error.") from e
247247 
248248 
249249def clear_meida_cache(dir_path: str):
ascend-robot
ascend-robot4月16日评论:
变量和数据类型问题: 函数名clear_meida_cache存在拼写错误,应为clear_media_cache。
问题类型: 变量和数据类型问题
文件路径: mindie_llm/tokenizer/io_utils.py
行号: 249
问题代码:
def clear_meida_cache(dir_path: str):
修改建议:
将函数名更正为clear_media_cache。
---
此评论由代码审查工具自动生成
likedislike