使用Scikit-learn包的FitCallback

FitCallback 是 Scikit-learn 中回调（Callback）框架的核心协议（Protocol）。它就像一个蓝图，规定了所有回调函数必须遵守的接口规范。通过实现这个协议，你可以创建自定义回调，在模型训练（.fit()）的不同阶段插入自定义逻辑，比如监控进度、记录指标或实现早停。

请注意：Scikit-learn 的回调 API 目前仍是实验性功能，可能还未在所有估计器中实现。

核心钩子 (Hooks) 方法

FitCallback 协议定义了四个核心的“钩子”（Hook）方法，它们在训练生命周期的不同节点被调用。

如何使用

使用回调主要分三步：

1. 使用内置回调

Scikit-learn 提供了一些可直接使用的内置回调。

• ProgressBar: 集成 tqdm 等库，显示训练进度条。
• ScoringMonitor: 在每次迭代结束时计算并记录指定的评估指标。

2. 创建自定义回调

通过继承 FitCallback 并实现所需的方法来创建自定义回调。

示例：一个简单的训练时间监控回调

import time
from sklearn.callback import FitCallback

class TimeMonitor(FitCallback):
    def setup(self, estimator, context):
        self.start_time = time.time()
        print("训练开始...")

    def on_fit_task_end(self, estimator, context, **kwargs):
        # 每次迭代结束时打印耗时
        elapsed = time.time() - self.start_time
        print(f"当前任务 '{context.task_name}' (ID: {context.task_id}) 结束，已耗时: {elapsed:.2f} 秒")

    def teardown(self, estimator, context):
        total_time = time.time() - self.start_time
        print(f"训练完成！总耗时: {total_time:.2f} 秒")

3. 注册回调

通过兼容回调的估计器的 set_callbacks 方法注册。

from sklearn.linear_model import LogisticRegression

# 1. 实例化回调
my_monitor = TimeMonitor()

# 2. 实例化估计器 (需支持回调)
# 注意：并非所有估计器都支持，请查阅文档确认
model = LogisticRegression(max_iter=1000)

# 3. 注册回调
model.set_callbacks([my_monitor])

# 4. 正常训练，回调将自动生效
# model.fit(X, y)

在元估计器（Meta-estimators）中使用

在 Pipeline 或 GridSearchCV 等元估计器中使用回调时，回调可以自动传播给其子估计器。这时，setup 和 teardown 方法仅在顶层估计器上各调用一次。

注意事项

• 实验性功能：API 在未来的版本中可能发生变化，没有常规的弃用周期。
• 参数声明：在自定义钩子方法中，只声明你需要的参数，这有助于框架优化性能。所有额外参数必须使用关键字参数（**kwargs） 接收。
• 参数可用性：不要假定 on_fit_task_begin/end 中的 X, y 等参数总是可用，这取决于估计器的实现。
• 中断训练：on_fit_task_end 返回 True 可请求停止训练，但最终是否停止由估计器决定。

总结

FitCallback 是 Scikit-learn 回调机制的基石。通过实现这个协议，你可以灵活地在模型训练的各个阶段插入自定义逻辑，极大地增强训练过程的可观测性和可控性。