TikTok VO 面经 | Coding / System Design + Transformer 八股问答全流程回顾

1,005閱讀
沒有評論

这次来分享一位同学的 TikTok Virtual Onsite 面经。 TikTok VO 一向比较有特点,既考察常见的算法 coding,又会结合论文里的细节问一些偏八股的内容,尤其是 Transformer、优化器、训练参数这些,对基础功底的要求很高。

1. Coding: Search in Rotated Sorted Array

题目是一个经典的 Leetcode 33:

Problem:
Given a sorted and rotated array of n distinct elements, find the given key in the array.

换句话说,就是在一个排序好的旋转数组中,找到 target 的 index。

解法也很标准:

  • 判断哪一部分是有序的;
  • 如果 target 落在有序区间,就在这一半继续二分;
  • 否则就去另一半。

Complexity:

  • 时间复杂度:O(log n)
  • 空间复杂度:O(1)

整体难度不大,但需要写得清晰简洁,边界情况要注意。

2. 八股:基于论文的深挖提问

这一部分比较硬核,面试官直接给了一段论文里的 Transformer 模型和训练参数配置,然后围绕它展开提问。大概的配置如下:

  • Transformer: 32 layers, 32 heads (64 dim), rotary embedding with dim 32
  • Context length: 2048, used flash-attention
  • Training: random init, fixed learning rate, weight decay 0.1, optimizer Adam (momentum 0.9, 0.98, epsilon 1e-7)
  • Precision: fp16 with DeepSpeed ZeRO Stage2
  • Batch size: 2048, train for 150B tokens

面试官的问题也非常细,基本就是把参数逐一拆开问:

head 的作用是什么?multi-head 的公式能写一下吗?还有哪些别的 attention 方法?

rotary embedding 是什么?和其他 embedding 方法相比优势在哪里?

为什么用 rotary embedding,好处是什么?如何处理 long distance context?

Flash-Attention 是什么?为什么能加速?

Adam 为什么适合这个场景?三个参数(momentum, epsilon 等)都具体什么意思?

为什么选择 fixed learning rate,而不是 warm-up?

weight decay 是什么?对训练有什么帮助?

fp16 精度的意义是什么?还有哪些精度方式(比如 bf16, fp32)?

DeepSpeed ZeRO Stage2 是什么,起什么作用?

可以看出来,这一部分的重点不是让你背定义,而是要你能把 核心原理讲清楚,最好还能结合实际场景说出 trade-off。

总结

TikTok 的 VO 强调 平衡

  • Coding 部分就是常见的经典题,考察你的代码实现能力和思路是否熟练。
  • 八股部分完全是细节深挖,看你对 Transformer、优化器和训练过程是否理解到位。

整体下来并不算刁钻,但对基础要求高。如果只是背概念,很容易被追问卡住。

👉 想要顺利通过 TikTok 这样的面试,除了刷题,还要把论文里的基础吃透,尤其是 Attention, Embedding, Optimizer, Training Tricks 这几块,准备时最好能结合公式+实际工程经验来讲。

关于 PROGRAMHELP

我们团队一共 7 人,全部来自顶尖名校 & 大厂背景:Oxford、Princeton、北大硕博,还有来自 Amazon、Google、阿里的工程师。这里没有中介加价,所有服务都由我们亲自完成。

我们提供的服务包括:

  • OA 代写 & 包过服务:HackerRank、Codesignal、牛客网等平台测试,确保 100% 通过。
  • VO / 面试实时助攻:学长亲自语音提醒 + 思路提示,让你在面试中从容发挥。
  • 代面试 & 全套护航:从简历包装到面试代面、系统设计助攻,再到签约谈判,全程陪跑直到你拿到满意 Offer。
  • 其他定制服务:模拟面试、编程代写、算法辅导、Quant 面试支持、留学生入学面试代面等,都能按需安排。

我们承诺 效率高、保密强、结果导向。有需要可以随时联系,学长会亲自沟通,最快 24h 内帮你解决问题,直到拿到理想 Offer。

author avatar
jor jor
正文完
 0
评论(沒有評論)